我用 AWS Trainium 2 重构了公司大模型推理链路,显存省了三分之一但踩了几个致命坑

📅 更正说明(2026-10-13):本文初版存在事实错误已修正:①Trainium 2 于 2023 年 re:Invent 预览、2024 年 12 月 GA,官方规格为单芯片 96GB HBM3、dense FP8 1300 TFLOPS、带宽 2.9TB/s,初版时间与规格均有误;Infer…