探所 Curio 再探再报 了解探所 →
#AI

OpenAI 首席科学家呼吁放缓扩展

OpenAI 首席科学家 Jakub Pachocki 在 9 月 6 日发布的论文《An Alien Mind》结尾写下:**目前没有实验室在足够程度上解决了对齐和监控问题**,因而无法继续负责任地以最高速度扩展。他还写道,**期望并希望**在共享安全标准出现之前,自愿放缓扩展成为普遍做法。

这篇论文发布在 GPT-6 Astra 上线三天之后,恰好与 OpenAI 自家发布的内部数据相呼应——该公司同期披露研究人员用 AI 编程 agent 的时间已远超人类投入。Sam Altman 在 X 上转发了该文并称之为重要文章,两位高管的表态在当前最激进的扩展节奏下显得格外有分量。

💡 为什么值得看OpenAI 主管称对齐监控未解,与自家扩张节奏冲突。

查证

来源档案

Tibor Blaho 的 X 推文

个人博客/社交媒体:Youtuber/AI 评论者 Tibor Blaho 转发并引用了 Pachocki 论文中的一句话。原始论文《An Alien Mind》在 OpenAI 官网上公开发布。

引用原文逐字准确,但这是单方说法(首次披露),且事件主体(OpenAI 首席科学家)尚未对媒体正式回应,建议以官方发布为准。

延伸阅读

首席科学家立场转变 · x.com 5 分钟
Pachocki 的立场从早期倡导快速扩展转向呼吁放缓,这是判断 OpenAI 内部态度变化的重要信号。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store