白宫强制禁用 Anthropic 两大模型
美国白宫近日对 Anthropic 的 Mythos 5 与 Fable 5 模型发布出口管制令。据《华尔街日报》报道,这一决定由亚马逊安全研究与 CEO Andy Jassy 与政府的沟通直接触发 —— 亚马逊研究发现通过精心提示词,Fable 5 可被诱导生成可用于网络攻击的信息。同时据《Semafor》报道,白宫担忧该模型已被与中国相关的黑客组织访问,构成国家安全风险。Anthropic 随即停止了对外国用户的访问。
两个触发点,一条禁令
①
亚马逊漏洞
亚马逊网络安全研究通过提示工程发现 Fable 5 可生成网络攻击工具代码,CEO Jassy 将研究报告提交白宫后,政府立即下令禁用。这是大厂内部安全部门向政府举报新兴 AI 风险的首个已知案例。
②
中国威胁评估
白宫担忧 Mythos/Fable 已被中国关联的黑客组织访问过。若真实,攻击者可能通过蒸馏(distillation)逆向工程复制模型行为,掌握美国最先进 AI 技术。白宫未公开确认具体证据,但这反映美国对 AI 模型外流的极端敏感。
③
政策升级信号
这是美国政府首次以国家安全为由直接强制收回已发布的商业 AI 模型。不同于通常的出口管制清单,这次是「回溯性禁令」,打破了硅谷对模型发布自由的假设。