Token 成本减半,Bug 修复率提升 40%(2024):Claude 3.5 Sonnet 在边缘推理上的极限压测

上周三晚上十一点,我的 Jetson Orin NX 开发板还在疯狂散热,屏幕上显示着 98% 的显存占用。这是我在重构公司那套老旧的嵌入式 C++ 驱动程序时遇到的场景。在资源受限的边缘设备上,每一行代码都关乎内存溢出的风险,每一次 API 调用都关乎云端推理的成本。当时我手里只有两把“枪”:An…