OpenAI 首席科学家发文谈对齐与防御性 AI

OpenAI 首席科学家 Jakub Pachocki 在 OpenAI 官网发布题为《An Alien Mind》的长文，罕见地公开阐述自己继续快速训练更强模型的核心理由：**构建防御系统**,以应对其他 AI 带来的危险。

他写道，未来将需要强大且对齐的 AI 用于防御——保护基础设施、实时防范 rogue agent、发明全新的防护措施，这将成为 OpenAI 部署工作的重点。同时他明确划出红线：防御需求不能成为鲁莽行事的借口，一旦认清 stakes 的严重性，"不计代价全速冲刺"的想法显得荒谬。

💡 为什么值得看快速训练更强模型是为防御 AI 风险，并提出放缓共享安全门槛。