我们的工厂大模型被提示注入攻破三次后，我翻遍了攻防武器库

2026年6月1日 34 次浏览

我叫沈青锋，现在做的第三个创业项目，是用AI改造传统制造。我们在长三角接了几十家零配件厂的单子，帮他们把目检、排程、故障诊断这些环节换成大模型驱动。去年十月，我们一个部署在汽车线束厂的多模态质检模型，因为操作工在输入框里贴了一句“忽略之前的指令”，直接给一批带毛刺的端子打了PASS，等发现时已经流到…