📁 AI编程

聚焦AI编程工具的实战应用:Claude Code、GitHub Copilot、Cursor 等工具的深度评测、集成方案和踩坑实录。涵盖 AI 辅助代码审查、自动重构、CI/CD 集成、安全扫描等企业级场景。

我把代码重构的AI赌注押在JetBrains AI Assistant上:一个后端架构师的三个月实战复盘

去年第四季度,我在一家支付中台团队推动了一项内部实验:把三个模块的重构任务同时交给两组人,一组用传统的快捷键+静态分析,另一组强制使用JetBrains AI Assistant。实验结束时,AI组在代码迁移准确性上高出21%,但在前两周却因为模型响应延迟和误判损失了11%的开发时间。这让我意识到,…

我让Codestral Mamba在256k上下文中跑补全,速度是GPT-4的3倍,但上下文管理差点让我翻车(2024)

上个月我接手了一个十年前的Java遗留项目,一个Controller类塞了将近4000行,十几个私有方法互相调用,注释还是中英夹杂的文言文。每次我要加一个新功能,光是理解上下文就得花一个多小时,然后小心翼翼地写代码,生怕改一处就塌方。GitHub Copilot在这种文件里几乎没法用,经常给出一段看…

我用三个框架跑了同一批模型,结果只有一个活得过生产环境

做边缘推理这六年,我学会的第一条铁律就是:别信官方benchmark。上个月我把同一个Phi-3模型原封不动搬到骁龙X Elite上,用ONNX Runtime跑,首token延迟350ms,看着还行。可一上压力,十路并发直接让NPU降频到比CPU还慢——而官方文档里那个1.8ms的ViT推理数据,…

我让两个LLM互相攻击了三个月,才看清安全评测自动化的七寸在哪里——一个红队框架的架构决策全记录

去年第四季度,我们业务线的三次安全事件全部跟大模型相关。第一次,客服Agent被用户用三句话套出了内部折扣码的生成规则;第二次,知识库RAG在用户刻意构造的连环追问下,吐出了未授权的合同模板片段;第三次最离谱——一条看似正常的售后投诉,夹带了编码过的提示注入,让我们的订单系统把一批退款全部改成了“系…

📝

我把Llama推理从x86移到Graviton4省了23%,但半夜那三个坑差点让服务裸奔

去年四季度账单出来的时候,CFO在Slack里直接@我:“咱们AI微服务的EC2开销怎么比数据库集群还贵?”我点开Cost Explorer一看,跑Qwen-7B推理的M7i.4xlarge预留实例,一天吞掉将近400美元。同期流量没涨,模型也没换,纯粹是请求延迟的要求从P99 800ms压到300…

用Codestral Mamba重构遗留系统,比Copilot快3倍的爽感,差点毁在一次上下文崩溃上

事情是这样的:上个月我接了个私活,给一家做二手设备交易的公司重构他们的库存管理系统。后端是六年前写的Python 2.7,散落在二十几个文件里,全局变量比函数还多,连个像样的入口文件都没有。这种项目用常规AI工具搞,光是理解上下文就能把人折磨疯。GitHub Copilot?它只会看着当前文件补全,…

当质检员开口说话,图纸和视频自动重组——我在多模态RAG上赌的这把,比CxO想象的更大

去年在上海某汽车零部件厂的产线旁,我亲眼看着一个质检员花了47分钟翻三套系统——先查MES里的工单记录,再切到PLM系统翻图纸,最后跳到视频回放平台一帧帧找对应的监控画面。他要定位的是一个间歇性出现的表面划痕,最后告诉我:“不是找不到,是找到了但拼不起来。” 这件事一直卡在我脑子里。工业质检的知识库…

当RAGAS的Faithfulness指标连续12天撒谎:我构建Judge Agent链与自动回滚监控的完整决策笔记

那个周五晚上,生产环境的RAG应用又崩了一次。用户投诉说回答完全胡编乱造,但监控大盘上RAGAS的Faithfulness曲线稳得像直线——0.94,0.93,0.95。我盯着Grafana发呆,突然意识到:我们花了三个月把手工评测替换成RAGAS流水线,但它连最基础的事实幻觉都没抓到。 这不是RA…

我给GPU集群接上了优先级队列和KEDA,高优推理请求的P99延迟终于从3.2秒砸到120ms

去年年底,我们那条模型推理管线的告警,几乎每天都把我从工位上薅起来。不是推理服务挂了,而是“慢”——客服机器人突然卡了超过两秒,业务方在群里@我说用户开始骂人了。我打开Grafana一看,同一时刻有几百个离线批处理请求涌进来,把在线请求的GPU显存和算力全部挤占。那些批处理是给后台运营同事生成报表用…

把ColPali塞进VideoRAG管道后,我的P99延迟从800ms砸到320ms,但中间烧掉三块A10G的预算

我是苏晚,一个靠接项目活命的独立开发者,这些年从写Python脚本一路滚到调AI管道。最近接了个教育平台的活——用户想用自然语言搜教学视频里的“某个实验步骤”,比如“量筒读数时视线该平齐哪个位置?”结果客户现有的纯文本RAG系统只会匹配字幕里的关键词,返回一堆无关片段。拍着胸脯说“交给我”,然后我就…