凌晨三点被报警叫醒的教训：AI 芯片与算力需求实战复盘
2026年8月，作为一家独角兽AI创业公司的DevOps负责人，我几乎每个星期都能在凌晨三点被报警叫醒。不是因为什么惊天动地的问题，而是因为监控系统捕捉到了大模型训练任务异常。每一次，我都得像拆炸弹一样，手忙脚乱地排查是代码问题、网络抖动、还是——最怕的——硬件瓶颈。尤其是近期，随着NVIDIA和A…
显存?
我用Blackwell B200重构了公司大模型推理链路，显存降了一半但踩了几个致命坑
我盯着监控屏幕上的红色警告已经三小时了。公司自研的Sage大模型推理服务集群，正在经历一场前所未有的显存风暴。每个Blackwell B200 GPU的显存占用率都在95%以上，队列堆积如山，P99延迟从正常的200ms飙到了1200ms。运维那边已经把所有能调的参数调到极限，但显存瓶颈就像一堵墙，…