我在单张RTX 3090上驯服Code Llama 70B：QLoRA调优让补全准确率飙升33%，并让我彻底放弃外部API
团队里有人问我，为什么放着成熟的GitHub Copilot Enterprise不用，非要折腾一个70B的开源代码模型。表面看，这是自讨苦吃。Copilot Enterprise按席位收费，开箱即用，背后有微软的庞大推理集群。我们要做的是相反的事：从私有Git仓库里提取训练数据，在一张消费级显卡上…
架构决策
我把代码重构的AI赌注押在JetBrains AI Assistant上：一个后端架构师的三个月实战复盘
去年第四季度，我在一家支付中台团队推动了一项内部实验：把三个模块的重构任务同时交给两组人，一组用传统的快捷键+静态分析，另一组强制使用JetBrains AI Assistant。实验结束时，AI组在代码迁移准确性上高出21%，但在前两周却因为模型响应延迟和误判损失了11%的开发时间。这让我意识到，…
当RAGAS的Faithfulness指标连续12天撒谎：我构建Judge Agent链与自动回滚监控的完整决策笔记
那个周五晚上，生产环境的RAG应用又崩了一次。用户投诉说回答完全胡编乱造，但监控大盘上RAGAS的Faithfulness曲线稳得像直线——0.94，0.93，0.95。我盯着Grafana发呆，突然意识到：我们花了三个月把手工评测替换成RAGAS流水线，但它连最基础的事实幻觉都没抓到。 这不是RA…