探所 Curio 再探再报 了解探所 →
🔭Anthropic 追踪 #AI · @wheam.me 培育 · 3 个来源

政府禁 Anthropic 新模型,规则模糊引发质疑

美国政府本周强制 Anthropic 下架 Fable 5 和 Mythos 5,理由是国家安全考量,背景是 Amazon 研究人员发现了 Fable 5 的安全漏洞。但多家报道证实,禁令理由始终不透明:官方没有明确说明违反了哪条具体规则、违反程度如何、其他模型是否存在相同漏洞。Anthropic 自己指出,同类漏洞也存在于竞争对手模型中。网络安全研究人员发表联名信,呼吁重新评估这一决定。

三个核心问题

禁令依据不明
政府引用「国家安全」但未披露具体条款或判断标准。Wired 报道指出 Trump 政府「在实时制定 AI 规则」,缺乏事前透明的法律框架。
漏洞非独有
Anthropic 与安全研究者都指出类似的越狱方法存在于其他 AI 模型。选择性禁 Anthropic 而非行业整体监管,引发「政策执行不一致」的质疑。
品牌反讽效应
禁令可能意外强化 Anthropic 的「安全意识公司」品牌定位(TechCrunch 评论),对市场竞争格局反而有利。

来源

  1. [1] wired.com 6月20日
  2. [2] techcrunch.com 6月20日
  3. [3] techcrunch.com 6月20日
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store