🏷️ Rust

救命,Rust 1.85的异步闭包让我把1200行砍到200行,编译器再也不骂人了(2025)

事情是这样的:去年我接了个AI推理管线项目,用Rust写一个多模型串联的服务。用户上传一段音频,背后要过三个模型——语音转文字、情感分析、内容审核——最后合并结果返回。我心想,Rust + Tokio天生就是干这个的,搞个异步流水线不是跟喝水一样? 结果第一版写完,我看着屏幕上将近1200行代码和编…

我的工厂AI质检系统用Rust 1.85异步闭包重构后,消息积压从20分钟降到2分钟(2025)

去年十月份,我们的AI质检系统在生产线上跑了三个月后,开始出现一个让我凌晨三点爬起来看监控的问题:Redis Stream消息积压。每天凌晨的换班时段,质检数据流会暴增三倍,然后整个消息处理链路就开始堵。等到早上七点工人换班的时候,系统已经积压了20分钟的数据,生产线主任直接打电话骂人。 这个问题折…

Vite 6.0迁移Rolldown翻车实录:快是真的快,坑也是真的深

我的一个中后台项目,跑了快两年,从 Vue3 + Vite4 一路升到 Vite5,200 多个页面、30 多个模块,平时改一行文案等 HMR 热更只要半秒,这让我一直觉得 Vite 的速度已经到天花板了。直到上个月我试着把生产构建加速,才发现这货冷启动要 17 秒,生产打包跑到 42 秒——一个破…

Rust 1.85 异步闭包如何让我扔掉连接池里的 Arc(2025):一个架构师的三个月迁移复盘

一个周三凌晨的性能复盘:连接池健康检查的锁争用吃掉15%核时 那是2024年底一个挺冷的周三凌晨。我盯着Grafana面板上的P99延迟曲线,看到健康检查模块的CPU时间片被一堆Arc<Mutex>的锁争用吞掉将近15%。这不是一个并发写入的场景——健康检查就是读一下TCP连接的远端状态…

Rust重写推理服务后速度提升了5倍,但我差点被编译器逼疯

为了搞掉在线教育平台批改服务的延迟和内存问题,我用Rust重写了推理网关。结果吞吐暴增5倍,p99延迟从510ms压到42ms,但开发过程几乎让我放弃——Session不支持Send、编译时间漫长、错误信息无法理解。这篇文章记录了我如何手写线程池、用Axum+ONNX Runtime趟过生产坑,以及最终为什么还说“Rust值得,但要用在刀刃上”。

Rust写AI推理服务:比Python快5倍但开发体验一言难尽

我把电商推荐系统的推理服务从Python重写成Rust,吞吐量从1200 QPS飙升到6500 QPS,但开发时间从2天暴增到2周。Rust的所有权系统和异步编程让简单功能变得复杂,但性能提升确实惊人。如果你考虑用Rust做AI服务,先看看这篇血泪史。