凌晨三点被报警叫醒的教训：H200 GPU如何撕开大模型训练的算力口子
凌晨三点，又是熟悉的刺耳告警声。这次不是K8s Pod挂了，也不是CI流水线炸了，而是我们正在训练的某个GPT-5.5模型，内存全满了。监控曲线像死蛇一样贴在零线上，告警词是「OOM Killer forced termination」。你知道这意味着什么吗？意味着我们花了整整72小时预训练的模型参…
InfiniBand
B200出货后，我重新读了一遍Megatron-LM那篇论文——万亿参数训练集群的工程鸿沟比想象中更大
去年秋天英伟达把第一台DGX B200送进我们机房的时候，整个组都在围观那个像迷你冰箱一样的8U液冷节点。规格表上写着单卡20 petaFLOPS FP4算力、192GB HBM3e、1.8TB/s的NVLink 5带宽，所有人脑子里都是一个念头：“万亿参数模型可以随便训了。”我当天晚上就把Shoe…