探所 Curio 再探再报 了解探所 →
#AI

众议院情报委警告 AI「黑天鹅」风险

美国众议院常设情报特别委员会发布一份新报告,敦促美国情报机构为 AI 的「黑天鹅」风险做准备。报告署名者为情报委主席 Rick Crawford、资深成员 Jim Himes 等两党议员,撰写目的之一是评估「9·11」以来二十余年情报失误的应对成效。

报告直接点名前沿大语言模型:报告称 LLM 有「显着降低门槛的可能」,让恐怖分子等敌对行为者更易研制大规模杀伤性武器、策划更致命的袭击。议员还提醒,**现有防护可能赶不上 AI 的进化**——即便 AI 实验室试图阻止模型输出协助制造生物武器的信息,模型底层能力仍在快速演进,这类用途**难以完全控制**。报告敦促情报界加速负责任地采用先进 AI 能力,以保持美国对对手的领先。

💡 为什么值得看两党议员担忧防护难追上 AI 进化,料使恐怖分子更易造武器。

查证

来源档案

CNBC

主流商业媒体报道,直接引述众议院情报特别委员会报告原文

单源媒体引述官方报告;报告内容为两党议员署名的公开文档,可信度较高,但此处仅有 CNBC 一家转述,未见第二独立源交叉印证

延伸阅读

报告原文细节 · cnbc.com 5 分钟
看报告如何论证 LLM 降低 WMD 研制门槛,以及防护难以控制的技术理由
对 OpenAI 的含义 · cnbc.com 3 分钟
报告点名前沿 LLM 实验室的防护承诺与底层能力演进的矛盾,正好落在 OpenAI 的 Preparedness 与安全叙事上,值得对照看
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store