Token 成本减半，Bug 修复率提升 40%（2024）：Claude 3.5 Sonnet 在边缘推理上的极限压测
上周三晚上十一点，我的 Jetson Orin NX 开发板还在疯狂散热，屏幕上显示着 98% 的显存占用。这是我在重构公司那套老旧的嵌入式 C++ 驱动程序时遇到的场景。在资源受限的边缘设备上，每一行代码都关乎内存溢出的风险，每一次 API 调用都关乎云端推理的成本。当时我手里只有两把“枪”：An…
入
GitHub Copilot Chat的上下文感知就像论文里的RepoCoder，但生产环境里它用了一套让索引工程师沉默的捷径
我这周在组里做了个内部分享，本来只是想把Copilot Chat最近那个“@workspace”能力的实现原理扒一扒，结果扒完之后发现，它背后的上下文感知架构和学术界那套代码检索论文的对应关系，比我想得拧巴多了。我们读论文的时候，觉得基于AST做仓库级嵌入、用抽象语法树构建全局依赖图是件挺纯粹的事。…