Llama 3 零运维成本部署:Serverless AI 推理实战与成本博弈

说实话,每次看到 Llama 3 的参数量、上下文长度,我都得先摸摸我的 AWS 账单。这模型太香了,但香到直接把我逼成了 Serverless AI 的狂热信徒。最近帮团队把一个高并发问答服务从 EC2 集群搬到 Lambda 上,省下来的成本够买两台 H100 了。今天就来跟你们唠唠,怎么用 S…