在90分贝噪音和2Mbps带宽下，我把GPT-5.5的多模态延迟压到了487ms
我叫周明远，三年前还在写STM32的固件，整天对着寄存器手册抠那几百字节的RAM。后来AI浪潮一来，我半路出家搞模型部署，在Jetson上跑过YOLO，在RK3588上量化过BERT。去年底接了一个工业远程辅助的项目，要把多模态大模型塞进一个90分贝噪音、2Mbps共享带宽的冲压车间里，给现场维修工…
多模态大模型
GPT-4o实时视频API+WebRTC的48小时实测（2024）：那些没人说的延迟陷阱
上个月组里接了个活，要在一个仓库监控原型里加上“实时异常行为识别”。需求方说得轻巧：“现在大模型不是很能看视频了吗？用GPT-4o那个新出的实时接口，200毫秒出结果，我们装个摄像头就行。”当时我正好读完Meta那篇Video-LLaMA的续作，脑子里全是“视频理解大一统”的幻觉，结果真把WebRT…