把3B模型塞进Jetson Orin Nano：我的AI医疗诊断工具实战复盘
作为一名从嵌入式系统转战AI部署的工程师，我的日常工作就是和资源限制搏斗。在医疗领域，这意味着要在性能、功耗和成本之间找到那个极其狭窄的平衡点。最近，我们团队开发的一款基于AI的肺结节检测工具，就让我深刻体会到了这一切。这篇文章，我想以第一人称的视角，分享这个项目的实战经历，尤其是如何在资源受限的设…
联邦学习
这篇NeurIPS论文为什么让我兴奋
最近在实验室组会上，我们花了点时间讨论了DeepMind上个月发的那篇论文里提到的AI辅助诊断技术。老实说，这篇NeurIPS论文最让我兴奋的是它提出的基于Transformer的模型，居然能在医学影像诊断上做到接近专家水平的准确率。但兴奋之余，我更想从工程的角度聊聊，这种理论上的突破在实际落地中会…