当RAGAS的Faithfulness指标连续12天撒谎:我构建Judge Agent链与自动回滚监控的完整决策笔记
那个周五晚上,生产环境的RAG应用又崩了一次。用户投诉说回答完全胡编乱造,但监控大盘上RAGAS的Faithfulness曲线稳得像直线——0.94,0.93,0.95。我盯着Grafana发呆,突然意识到:我们花了三个月把手工评测替换成RAGAS流水线,但它连最基础的事实幻觉都没抓到。 这不是RA…
那个周五晚上,生产环境的RAG应用又崩了一次。用户投诉说回答完全胡编乱造,但监控大盘上RAGAS的Faithfulness曲线稳得像直线——0.94,0.93,0.95。我盯着Grafana发呆,突然意识到:我们花了三个月把手工评测替换成RAGAS流水线,但它连最基础的事实幻觉都没抓到。 这不是RA…