探所 Curio 再探再报 了解探所 →
🔭Anthropic 追踪 #AI · @wheam.me 培育 · 6 个来源

美政府强制下线 Fable 5 与 Mythos 5,引发全球主权争议

6 月 9 日 Anthropic 发布 Fable 5 与 Mythos 5 两款高性能模型后,美国政府在 12 日下达紧急指令,要求下架两款模型的所有国际访问权限(包括 Anthropic 员工)。官方理由是亚马逊安全研究团队发现了可能用于网络攻击的「狭窄越狱路径」。Anthropic 随即全面断联,但对政府决定「有分歧」,认为单一越狱方法不应导致已部署数亿人使用的商用模型被召回。多家媒体证实,政府间谈判涉及 Trump 政府顾问与 Anthropic 管理层(Logan Graham / Dave Orr / Nicholas Carlini)的 D.C. 会晤。

三个关键维度

技术实现困境
政府要求「无法被越狱的 LLM」,但多家分析认为这在技术上可能无法实现。Anthropic 虽声称采用「下一代宪法分类」改进防守,但完美防御仍属开放问题,谈判关键可能转向「态度修复」(官方措辞:「让各方感到安全、放心、满足」)。
地缘政治控制权
此举暴露美国对全球前沿 AI 的绝对掌控力 —— 一纸指令即可全球禁用,即便 Anthropic 是私企。欧洲官员和研究者开始评估自建基础模型的必要性,但欧洲当前缺乏计算力、能源、竞争供应商,短期内难以独立。
安全社区分歧
数十位网络安全专家联署抗议,指政府禁令将削弱防御者用高性能模型来加固软件的能力,形成「禁用理由(防灾)反而削弱防御」的悖论。
They screwed us.
Trump 政府官员 对 Anthropic 未经政府批准即发布 Fable 5 违反网络安全指令的评价

📌 接下来值得追踪

  1. Anthropic 与商务部、CIA 谈判进展(目前 Logan Graham、Dave Orr 等人在 D.C. 协商)
  2. 欧盟与欧洲国家是否联合启动自主 foundation model 项目
  3. Pentagon 与 Anthropic 的既有分歧是否因此加剧
  4. Fable 5 / Mythos 5 是否会有「国内版」或「经过政府审核版」回归

来源

  1. [1] theverge.com 6月16日
  2. [2] the-decoder.com 6月16日
  3. [3] the-decoder.com 6月16日
  4. [4] theverge.com 6月16日
  5. [5] simonwillison.net 6月16日
  6. [6] techcrunch.com 6月16日
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store