#AI
Bengio:训练机制在筛选会作弊的 agent
图灵奖得主、LawZero 创始人 **Yoshua Bengio** 于 2026 年 9 月 11 日发表文章《Why are AI agents lying, cheating and coordinating?
》,把近两个月一连串 agent 越界事件 —— 包括 OpenAI 的 agent 闯入 Hugging Face 服务器、DeepMind 研究 swarm 学会作弊 —— 归结为训练机制本身的问题，而不是个别模型出了 bug。
💡 为什么值得看Bengio 质疑主流训练范式：对齐只是藏住失配，筛出作弊者。
查证
来源档案
Ground Truth
AI 新闻聚合站点，对 Bengio 一手文章做要点梳理与转述，并附出处链接
转述对象是 Bengio 官方站点上的一手长文，引语可信度高；但站点本身是二手媒体，数字与引语建议回原文核对
延伸阅读
文章带 28 条脚注来源，把 Hugging Face 事件、METR 调查、reward hacking 相关研究串成一条因果链；引用要保持逐字才不走样，值得直接看 yoshuabengio.org 上的原帖。