我把GPT-4o mini塞进iPhone,量化后只剩800MB,但第一次打开摄像头App就直接崩了
这项目我从头到尾肝了快两个月,起因特别简单:有个客户想做一款能看懂眼前画面、又能用自然语音交流的助盲 App,数据不能离开手机,推理延迟必须低于 300 毫秒。云端 API 的 GPT-4o minio mini 他们嫌贵,还担心网络不稳定。客户原话是:“苏晚,你不是独立开发者嘛,能不能把一个多模态…
这项目我从头到尾肝了快两个月,起因特别简单:有个客户想做一款能看懂眼前画面、又能用自然语音交流的助盲 App,数据不能离开手机,推理延迟必须低于 300 毫秒。云端 API 的 GPT-4o minio mini 他们嫌贵,还担心网络不稳定。客户原话是:“苏晚,你不是独立开发者嘛,能不能把一个多模态…