📁 技术洞察

AI 产业深度观察:从投资视角拆解 AI 芯片、大模型、具身智能等赛道的技术真相与商业逻辑。基于 37+ 份融资 BP 和 300+ 项目审查经验,拒绝 PPT 泡沫,只讲技术本质。

Figure 01 进工厂:具身智能爆发前夜,软硬件结合的工程挑战在哪里?

昨天晚上实验室组会,大家都在刷 Figure 01 进工厂的视频。说实话,我盯着屏幕看了三遍,不是因为它有多好看,而是因为它太“反直觉”了。以前我们做机器人,那是把控制算法写在 C++ 里,像修钟表一样精细地调 PID 参数,每一步都要算好力矩、加速度、动力学模型。现在倒好,直接喂给一个大模型一句话…

仿真跑了100%通过,实测76%——我的Tesla Optimus具身智能踩坑记

大家好,我是许彦,一个在机器人领域摸爬滚打了五年的工程师。今天我想和大家聊聊Tesla Optimus的最新工厂演示,以及具身智能技术从实验室走向工业场景时,那些让人头疼的落地挑战。说实话,每次看到这些演示,我内心既兴奋又焦虑。兴奋的是技术真的在进步,焦虑的是仿真环境里的完美表现,到了真实世界总会掉…

为什么 HBM3e 的价格战正在淘汰 90% 的 AI 芯片初创企业:Blackwell B200 的 FP4 是真突破还是营销噱头?

作为一名在投资机构摸爬滚打五年的技术顾问,我看过上百份 AI 项目的 BP。绝大多数都在讲「算法」、「模型」和「场景」,仿佛只要有了模型,世界就会改变。但我更关心的是硬件成本,特别是显存(HBM)成本。过去一年,我见证了无数 AI 初创公司因为算力成本过高而倒闭,也见证了云厂商为了争夺 HBM3e …

HBM3e 短缺正在杀死 80% 的 AI 初创公司:Blackwell B200 的 FP4 与 Transformer 引擎如何重新定义 ROI

作为一个在投资机构干了5年的技术顾问,我看过上百个AI项目的BP。绝大多数创业者的技术路线图都犯了一个致命错误:他们假设算力是无限的,或者至少是可以按需购买的。在GPT-4.5发布后的这半年里,我反复验证了一个残酷的事实——HBM3e内存短缺正在成为AI行业的“达摩克利斯之剑”。这不仅仅是供应链问题…

为什么90%的AI初创公司死于推理成本:Blackwell B200与FP4如何重新定义算力ROI

过去五年,我看了超过两百个AI创业项目的BP。其中90%的失败,不是因为算法不够惊艳,而是因为算力成本烧钱速度超过了业务变现速度。当一个客户要求用GPT-5.5级别的模型做7×24小时的实时客服,却只愿意按H100的旧价格买单时,这个项目注定是死局。 英伟达这次没有在PPT上画大饼,Bla…

Google那篇关于RAG延迟的论文里假设了“无限带宽”,但我的Jetson Orin NX的内存带宽只够喝汤

上周在实验室组会上,我抛出了个观点:现在大家都在卷RAG的检索精度,但很少有人聊“把RAG搬下云端”这件事有多难。就在上周,Google DeepMind上个月发的那篇关于“System 2 Reasoning”的论文里提到,大模型推理的延迟主要瓶颈在于KV Cache的读写。当时我就在想,这理论在…

Google那篇关于RAG的论文里假设了一个“无限吞吐”的向量数据库,但我的Jetson Orin NX只给了8GB内存

大家好,我是韩知行。今天咱们不聊那些花里胡哨的新架构,聊聊一个很实在的问题:**为什么我们在云端跑得飞起的RAG(检索增强生成),一到边缘端就变得像拖拉机一样慢?** 最近大厂都在推边缘大模型,我也在研究怎么把RAG从云端搬到Jetson上。这事儿看着简单,真上手了才发现,中间隔着好几道硬件和软件的…

别只盯着ChatGPT:ESP32-S3跑TinyLlama 2bit,我找到了LLM的最低硬件底线

当你还在为GPT-5.5的上下文长度焦虑,或者纠结H100的租用价格时,我刚刚把一个1.1B参数的小模型,塞进了一块几十块钱的MCU里。这不是为了炫技,而是为了回答一个残酷的问题:AI的尽头,真的是云端算力堆叠吗?还是说,真正的爆发,在于那些连Wi-Fi都断开、永远不需要联网的“超边缘”设备? 我手…

Google那篇关于FP8的论文里说能省50%显存,但当我把Llama 3.1跑在Blackwell上时,我的Loss却炸了

上周在实验室组会上,老板扔给我一张 Blackwell 架构的架构图,问我:“韩知行,这玩意儿真的能解决我们现在的显存墙问题吗?”我盯着那张图看了五分钟,脑子里想的不是晶体管数量,而是我们那帮搞分布式训练的兄弟又要掉多少头发。说实话,从 Hopper 到 Blackwell,NVIDIA 这次玩了一…