#AI
微软牵头开放权重信,OpenAI 后签 Anthropic 反对
微软牵头发起的公开信「Open Weights and American AI Leadership」已获 235 家企业签署,OpenAI 后续加入,但 Anthropic 明确反对并另发声明。信中指出,仅靠闭源模型并不安全,开放权重可让更多研究者检查漏洞、提升防护,并支持蒸馏技术。NVIDIA、Amazon、Y Combinator、Linux 基金会等均在列,Jensen Huang 为此发布首条推文。OpenAI 的加入与其过往对开放权重的谨慎态度形成对比。
Anthropic 在三天后发布立场声明,CEO Dario Amodei 强调开放权重可能被专权政府滥用,用于网络攻击或生物攻击,要求打击工业级蒸馏,但并未主张全面禁掉开放权重。
💡 为什么值得看OpenAI 与 Anthropic 裂痕加深,员工共促放慢前沿 AI 监管。
查证
来源档案
Simon Willison
独立开发者、AI 领域长期观察者,本文来自他赞助者邮件通讯的公开节选。
微软公开信、Anthropic 声明及前沿报告可信,事实部分可采信;Simon 观点鲜明,仅供参考。
延伸阅读
微软作为主要股东牵头的情境下,OpenAI 最终加入,对其安全与开放策略的平衡有直接影响 |
Anthropic 公开立场原文提供了对蒸馏和开放权重的详细担忧,可与微软信对照阅读