凌晨三点被报警叫醒的教训：H200 GPU如何撕开大模型训练的算力口子
凌晨三点，又是熟悉的刺耳告警声。这次不是K8s Pod挂了，也不是CI流水线炸了，而是我们正在训练的某个GPT-5.5模型，内存全满了。监控曲线像死蛇一样贴在零线上，告警词是「OOM Killer forced termination」。你知道这意味着什么吗？意味着我们花了整整72小时预训练的模型参…
NVLink
Google那篇关于FP8的论文里说能省50%显存，但当我把Llama 3.1跑在Blackwell上时，我的Loss却炸了
上周在实验室组会上，老板扔给我一张 Blackwell 架构的架构图，问我：“韩知行，这玩意儿真的能解决我们现在的显存墙问题吗？”我盯着那张图看了五分钟，脑子里想的不是晶体管数量，而是我们那帮搞分布式训练的兄弟又要掉多少头发。说实话，从 Hopper 到 Blackwell，NVIDIA 这次玩了一…