我把OpenAI实时API和代码解释器焊死了,张嘴问数、闭嘴看图,延迟压到800毫秒
上周三凌晨两点,我在工位上对着满屏的WebSocket事件日志灌了第三杯咖啡。屏幕右边的浏览器窗口里,我正对着一个自己搭的语音助手说话:“帮我把过去三个月订单表里退货率超过5%的客户按地区分组,画个柱状图出来。” 助手回了一句“正在为您分析”,然后停顿了整整12秒——不是网络问题,不是GPU排队,是…
上周三凌晨两点,我在工位上对着满屏的WebSocket事件日志灌了第三杯咖啡。屏幕右边的浏览器窗口里,我正对着一个自己搭的语音助手说话:“帮我把过去三个月订单表里退货率超过5%的客户按地区分组,画个柱状图出来。” 助手回了一句“正在为您分析”,然后停顿了整整12秒——不是网络问题,不是GPU排队,是…