为什么 HBM3e 的价格战正在淘汰 90% 的 AI 芯片初创企业:Blackwell B200 的 FP4 是真突破还是营销噱头?
作为一名在投资机构摸爬滚打五年的技术顾问,我看过上百份 AI 项目的 BP。绝大多数都在讲「算法」、「模型」和「场景」,仿佛只要有了模型,世界就会改变。但我更关心的是硬件成本,特别是显存(HBM)成本。过去一年,我见证了无数 AI 初创公司因为算力成本过高而倒闭,也见证了云厂商为了争夺 HBM3e …
AI 产业深度观察:从投资视角拆解 AI 芯片、大模型、具身智能等赛道的技术真相与商业逻辑。基于 37+ 份融资 BP 和 300+ 项目审查经验,拒绝 PPT 泡沫,只讲技术本质。
作为一名在投资机构摸爬滚打五年的技术顾问,我看过上百份 AI 项目的 BP。绝大多数都在讲「算法」、「模型」和「场景」,仿佛只要有了模型,世界就会改变。但我更关心的是硬件成本,特别是显存(HBM)成本。过去一年,我见证了无数 AI 初创公司因为算力成本过高而倒闭,也见证了云厂商为了争夺 HBM3e …
作为一个在投资机构干了5年的技术顾问,我看过上百个AI项目的BP。绝大多数创业者的技术路线图都犯了一个致命错误:他们假设算力是无限的,或者至少是可以按需购买的。在GPT-4.5发布后的这半年里,我反复验证了一个残酷的事实——HBM3e内存短缺正在成为AI行业的“达摩克利斯之剑”。这不仅仅是供应链问题…
过去五年,我看了超过两百个AI创业项目的BP。其中90%的失败,不是因为算法不够惊艳,而是因为算力成本烧钱速度超过了业务变现速度。当一个客户要求用GPT-5.5级别的模型做7×24小时的实时客服,却只愿意按H100的旧价格买单时,这个项目注定是死局。 英伟达这次没有在PPT上画大饼,Bla…
上周三,实验室的采购部门终于把那台挂着 “B200” 标签的 DGX H100 拖进了机房。说实话,拆开那层防静电包装的时候,我有点恍惚。这就是 NVIDIA 刚发布的 Blackwell 架构吗?相比上一代 Hopper,这东西给我的第一感觉不是“升级”,而是“换血”。我们…
上周在实验室组会上,我抛出了个观点:现在大家都在卷RAG的检索精度,但很少有人聊“把RAG搬下云端”这件事有多难。就在上周,Google DeepMind上个月发的那篇关于“System 2 Reasoning”的论文里提到,大模型推理的延迟主要瓶颈在于KV Cache的读写。当时我就在想,这理论在…
大家好,我是韩知行。今天咱们不聊那些花里胡哨的新架构,聊聊一个很实在的问题:为什么我们在云端跑得飞起的RAG(检索增强生成),一到边缘端就变得像拖拉机一样慢? 最近大厂都在推边缘大模型,我也在研究怎么把RAG从云端搬到Jetson上。这事儿看着简单,真上手了才发现,中间隔着好几道硬件和软件的“鬼门关…
上周在实验室组会上,老板扔给我一张 Blackwell 架构的架构图,问我:“韩知行,这玩意儿真的能解决我们现在的显存墙问题吗?”我盯着那张图看了五分钟,脑子里想的不是晶体管数量,而是我们那帮搞分布式训练的兄弟又要掉多少头发。说实话,从 Hopper 到 Blackwell,NVIDIA 这次玩了一…
从科技媒体转行做技术博主这三年,我发现一个很有趣的现象:大家都在谈论H100算力、多模态大模型,仿佛AI的尽头就是堆砌GPU。但我更着迷于“减法”的艺术——把几百GB的模型塞进几MB的内存里,看看硅基智能的底线到底在哪里。 最近我搞了个疯狂的实验:让ESP32-S3这个只有400MHz主频的MCU,…
大家好,我是许彦,一个在具身智能领域摸爬滚打5年的机器人工程师。过去一年,我们团队在尝试将大模型植入机器人大脑时,遭遇了一个尴尬的现实:服务器算力虽然强,但带不动;边缘端(如Jetson Orin)虽然合适,但功耗和散热是个大问题。于是,我的目光转向了手机——特别是搭载最新NPU的旗舰机。我手里正好…
我是沈青锋,一个在制造业AI化这条路上踩过两次坑的连续创业者。我们的第三个项目是做AI+制造业,主要解决工厂里的视觉质检和设计辅助问题。在做了前两个项目后,我有一个深刻的体会:技术再牛,如果不能在离线环境跑通,在工厂里就是废铁。 最近,我们接到了一个很典型的B端需求:一家拥有五条精密模具生产线的汽车…