#AI
众议院情报委警告 AI「黑天鹅」风险
美国众议院常设情报特别委员会发布一份新报告,敦促美国情报机构为 AI 的「黑天鹅」风险做准备。报告署名者为情报委主席 Rick Crawford、资深成员 Jim Himes 等两党议员,撰写目的之一是评估「9·11」以来二十余年情报失误的应对成效。
报告直接点名前沿大语言模型:报告称 LLM 有「显着降低门槛的可能」,让恐怖分子等敌对行为者更易研制大规模杀伤性武器、策划更致命的袭击。议员还提醒,**现有防护可能赶不上 AI 的进化**——即便 AI 实验室试图阻止模型输出协助制造生物武器的信息,模型底层能力仍在快速演进,这类用途**难以完全控制**。报告敦促情报界加速负责任地采用先进 AI 能力,以保持美国对对手的领先。
💡 为什么值得看两党议员担忧防护难追上 AI 进化,料使恐怖分子更易造武器。
查证
来源档案
CNBC
主流商业媒体报道,直接引述众议院情报特别委员会报告原文
单源媒体引述官方报告;报告内容为两党议员署名的公开文档,可信度较高,但此处仅有 CNBC 一家转述,未见第二独立源交叉印证
延伸阅读
看报告如何论证 LLM 降低 WMD 研制门槛,以及防护难以控制的技术理由
报告点名前沿 LLM 实验室的防护承诺与底层能力演进的矛盾,正好落在 OpenAI 的 Preparedness 与安全叙事上,值得对照看