AI 幻觉情报险些让美军登临中国货船

据 CNN 报道，美军险些依据一份由 AI 工具参与生成、「完全虚假」的情报报告，登临一艘中国船只。这份情报由美国特种作战司令部的一名分析师提交，称该船正通过中东运输核武器计划部件；美军当时已准备在空中支持下拦截并登船，直到官员发现生成报告时所用的聊天机器人「错误识别了船上装载的材料」。CNN 援引四名知情人士的说法，其中一人形容这次事故「几乎引发一场战争」。

问题出在**工具本身**:该聊天机器人把开源情报与政府持有的机密信号情报揉进同一份分析，再被打包成正式情报报告上报。Ars Technica 提到，美国国防部今年 1 月刚推出「AI 加速战略」,要求把各军种任务系统的数据都开放给 AI 使用，而研究者普遍认为幻觉无法被彻底消除。CNN 调查的具体细节、涉事船只与时间线，见原文。

💡 为什么值得看AI 把情报融合成假报告，美军险些动武。