Token 成本减半，Bug 修复率提升 40%（2024）：Claude 3.5 Sonnet 在边缘推理上的极限压测
上周三晚上十一点，我的 Jetson Orin NX 开发板还在疯狂散热，屏幕上显示着 98% 的显存占用。这是我在重构公司那套老旧的嵌入式 C++ 驱动程序时遇到的场景。在资源受限的边缘设备上，每一行代码都关乎内存溢出的风险，每一次 API 调用都关乎云端推理的成本。当时我手里只有两把“枪”：An…
GPT-4o 对比
OpenAI o1 独立思考（2024）：我为什么把 GPT-4o 从核心推理链路中下线
作为一名在 Java 和 Go 后端摸爬滚打十年的架构师，我看过太多因为“过度设计”而拖垮系统的架构，也见过不少因为“设计不足”而在高并发下崩溃的微服务。在 AI 领域，这种设计哲学依然适用。过去半年，我一直在观察 OpenAI 发布的 o1 系列（o1-preview 和 o1-mini）模型。最…