探所 Curio 再探再报 了解探所 →
#AI

OpenAI 首席科学家呼吁为 AGI 减速

OpenAI 首席科学家 Jakub Pachocki 在 9 月 6 日发表的个人文章《An Alien Mind》里,罕见地把 OpenAI 自己放进「还没解决对齐」的名单。他直说,**没有任何一个实验室把对齐与监控做到足以继续以最快速度负责任地扩展**。文章发表在 GPT-6 Astra 上线几天之后,时点本身就带着分量。

文章给出的主张不是停,而是**用共享安全标准换节奏**。Pachocki 说他期待并希望自愿放缓变得更普遍,直到各国创建起共同的安全门槛;国际协调应该成为各国政府的优先事项。这不是一个外部批评者的话,而是 OpenAI 自己的首席科学家在公司官网上说的。

💡 为什么值得看对齐与监控无解,须国际协调。

Pachocki 文章的核心立场

  • **对齐现状**:没有任何实验室在对齐和监控上做到足以继续长期以最大速度负责任扩展。
  • **节奏主张**:期待并希望共享安全标准落地前,自愿放缓成为常态。
  • **政府角色**:国际协调应成为各国政府围绕未来 AI 发展的最高优先事项。

查证

来源与可信度

孤证 · Jakub Pachocki 于 2026 年 9 月 6 日在 OpenAI 官网发表文章《An Alien Mind》 [1]
孤证 · Pachocki 认为当前 AI 能力增长快于对齐与监控能力的进展 [1]
孤证 · 他呼吁在共享安全标准落地前,各国应自愿放缓训练节奏并加强国际协调 [1]
· 他主张继续训练更智能模型的核心理由是创建防御系统,以应对其他 AI 带来的威胁 [1][2]

延伸阅读

在 OpenAI 官方语境下读 Pachocki 的原文,看 · openai.com
一手署名文章是判断 OpenAI 内部对安全节奏真实态度的最直接材料
从 Simon Willison 摘引的段落看「scalab · simonwillison.net
第三方摘引能反映这段表态在开发者圈层如何被放大与讨论
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store