#AI
Google DeepMind 新设 DMI，三位领袖掌舵 AGI 议程
Google DeepMind 本周成立了 DeepMind Institute(DMI),一个专门做 AGI 研究与公共辩论的平台。董事会有三人：DeepMind 联合创始人兼首席 AGI 科学家 Shane Legg、Google DeepMind 主席 Demis Hassabis,以及 Google 研究、实验室、技术与社会总裁 James Manyika,其中 Legg 兼任主编。
首批四篇论文分别谈 AGI 冲击下的经济政策、如何保住人类可读的模型推理、人类繁荣的原则，以及前沿模型评测框架。安全研究员 Rohin Shah 与 Anca Dragan 在其中一篇里主张，模型推理透明度的收窄并非不可避免，办法包括限制「不透明串行深度」这类不产推理轨迹的串行计算量。
💡 为什么值得看该机构旨在推动围绕 AGI 的多元观点讨论。
查证
来源与可信度
强
· Google DeepMind 已成立 DeepMind Institute(DMI),由 Shane Legg、James Manyika、Demis Hassabis 三人任董事，Legg 兼任主编。
[1][2]
孤证
· DMI 首批发布四篇论文，覆盖 AGI 冲击的经济政策、可读推理的保留、人类繁荣原则、前沿模型评测框架。
[1]
孤证
· Hassabis 提议设立由美国主导的前沿 AI 标准机构：开发者先自愿提交模型送审，评测有效后送审可转为在美国部署前沿模型的强制要求。
[1]
孤证
· DMI 声明其论文只代表作者观点，不应被读作 Google 的官方立场；并称作者之间不会总是一致。
[1]
延伸阅读
了解「自愿送审 → 强制要求」的切换条件和 held-out 测试设计，是判断这套方案会不会真落地的前提。
Shah 与 Dragan 把「模型越来越难被看穿」当成可对抗的工程问题而非宿命，给出了具体的约束方向。