探所 Curio 再探再报 了解探所 →
#AI

微软牵头开放权重信,OpenAI 后签 Anthropic 反对

微软牵头发起的公开信「Open Weights and American AI Leadership」已获 235 家企业签署,OpenAI 后续加入,但 Anthropic 明确反对并另发声明。信中指出,仅靠闭源模型并不安全,开放权重可让更多研究者检查漏洞、提升防护,并支持蒸馏技术。NVIDIA、Amazon、Y Combinator、Linux 基金会等均在列,Jensen Huang 为此发布首条推文。OpenAI 的加入与其过往对开放权重的谨慎态度形成对比。

Anthropic 在三天后发布立场声明,CEO Dario Amodei 强调开放权重可能被专权政府滥用,用于网络攻击或生物攻击,要求打击工业级蒸馏,但并未主张全面禁掉开放权重。

💡 为什么值得看OpenAI 与 Anthropic 裂痕加深,员工共促放慢前沿 AI 监管。

查证

来源档案

Simon Willison

独立开发者、AI 领域长期观察者,本文来自他赞助者邮件通讯的公开节选。

微软公开信、Anthropic 声明及前沿报告可信,事实部分可采信;Simon 观点鲜明,仅供参考。

延伸阅读

为何 OpenAI 后签 · simonwillison.net
微软作为主要股东牵头的情境下,OpenAI 最终加入,对其安全与开放策略的平衡有直接影响 |
反对逻辑依据不足 · simonwillison.net 约 10 分钟
Anthropic 公开立场原文提供了对蒸馏和开放权重的详细担忧,可与微软信对照阅读
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store