Jetson Orin推理优化：我把YOLOv8延迟从45ms压到8ms，但功耗翻车了
在Jetson AGX Orin上部署YOLOv8，从45ms延迟艰难优化到8ms。详细记录了TensorRT层融合、INT8量化的校准集精度陷阱、DLA加速器的隐藏坑，以及用共享内存多模型流水线把吞吐拉到45fps的全过程。还有差点烧坏板子的散热教训和生产环境的自动恢复设计。
量化
INT8量化掉精度？我折腾了三天，用分层量化+QAT把8%的损失捞回7.5%
上周给物流公司部署分拣模型，INT8量化后速度翻倍但精度暴跌8%。我花了三天，从校准集、分层量化到QAT微调，一步步把精度捞回91.5%。这篇文章记录了完整的踩坑和补救过程，包括代码和数据分析。