🏷️ CUDA

我用 Docker AI 开发环境配置拯救了无数个夜晚

凌晨三点,又一场编译错误把我从床上拽起来。不是代码写得烂,是 Python 环境又出问题了。TensorFlow 需要 CUDA 11,PyTorch 又要 CUDA 12,还要配上特定的 CUDA Toolkit 版本,加上各种库的依赖版本冲突……我这台 2024 年配的台式机,装着四个不同的 P…

别再手动装Python了:我用Docker重构了我的AI开发地狱,GPT-5.5跑在RTX 5090上

以前我搞本地部署,那是真的受罪。为了跑通一个 Llama 4 的微调,我把自己电脑的系统搞崩了三次,重装 Windows 的次数比换女朋友还勤。那时候的我坚信“环境隔离”是个伪命题,觉得只要把依赖装齐了,世界就是和平的。直到2026年,当 DeepSeek V4 Pro Pro 的推理速度在本地跑起…

Jetson Orin推理优化:我把YOLOv8延迟从45ms压到8ms,但功耗翻车了

在Jetson AGX Orin上部署YOLOv8,从45ms延迟艰难优化到8ms。详细记录了TensorRT层融合、INT8量化的校准集精度陷阱、DLA加速器的隐藏坑,以及用共享内存多模型流水线把吞吐拉到45fps的全过程。还有差点烧坏板子的散热教训和生产环境的自动恢复设计。