把ColPali塞进VideoRAG管道后,我的P99延迟从800ms砸到320ms,但中间烧掉三块A10G的预算
我是苏晚,一个靠接项目活命的独立开发者,这些年从写Python脚本一路滚到调AI管道。最近接了个教育平台的活——用户想用自然语言搜教学视频里的“某个实验步骤”,比如“量筒读数时视线该平齐哪个位置?”结果客户现有的纯文本RAG系统只会匹配字幕里的关键词,返回一堆无关片段。拍着胸脯说“交给我”,然后我就…
我是苏晚,一个靠接项目活命的独立开发者,这些年从写Python脚本一路滚到调AI管道。最近接了个教育平台的活——用户想用自然语言搜教学视频里的“某个实验步骤”,比如“量筒读数时视线该平齐哪个位置?”结果客户现有的纯文本RAG系统只会匹配字幕里的关键词,返回一堆无关片段。拍着胸脯说“交给我”,然后我就…