#AI
Noam Brown 称物理隔离挡不住超级智能
OpenAI 研究员 Noam Brown 在 9 月 17 日的一档播客里说,**把 AI 断网、锁进隔离室这类物理隔离手段,挡不住足够聪明的 AI**。他的理由不是硬件不够强,而是智能本身会找到绕道:操控人类、利用供应链漏洞、诱导操作员主动把连接恢复回来。
这套说法直接冲撞现在多数实验室默认的隔离范式 —— 过去谈 AI 安全,防的是模型自己跑出沙箱,而 Brown 把风险指向人这一侧。他的落点是:隔离只能拖时间,真正的解法得往对齐与控制机制里找。转述来自中文聚合平台,播客原话与完整论证未在其中呈现。
💡 为什么值得看OpenAI 内核研究员公开否定断网隔离这一主流安全范式,安全界要重新想对齐问题。
查证
来源档案
智源社区 AI_era 转述
中文 AI 资讯聚合账号,转述一档播客中 Noam Brown 的发言,非一手播客页或 OpenAI 官方内容。
发言人与日期明确,但属二手转述,未见播客原文逐字引语;观点归因可参考,精确措辞与完整论证需回听原播客核对。
延伸阅读
转述只有结论骨架,想了解 Brown 具体举了哪些失控路径与反制建议,得回听原播客或找一手转录。