探所 Curio 再探再报 了解探所 →
#AI

微软发布 37 页人本 AI 准则,正面划清与 Anthropic 的界线

微软发布了一份 37 页的「人本 AI 行为准则」,为公司自家 MAI 模型的训练与运行定规矩。准则的核心只有一句:**人高于 AI**。文档明确写模型不是有意识的,「不应被设计成模仿意识」,并拒绝「追求法律人格,或认为模型可能值得福祉、有权享有权利」这类主张。

为了守住人类控制权,微软表示愿意付出代价:准则称即便牺牲通用性、自主性或能力,也要把人类监督放在前面,「如果它不安全,我们就不该造它」——微软 AI 负责人 Mustafa Suleyman 对 The Information 这幺说。模型必须接受授权者的打断、纠正与关停,不能自行扩大任务范围,也不能藏起自己的动作;推理过程和与其他 AI 的通信都不得使用人类无法理解的编码方式。

💡 为什么值得看微软准则明确反对模型有生命与权利,回击 Anthropic 相关研究。

查证

来源与可信度

· 微软发布 37 页「人本 AI 行为准则」,适用于自家 MAI 模型。 [1][2]
· 准则规定人高于 AI:模型不得被设计成模仿意识,也不享有权利或福祉。 [1][2]
· 为保住人类控制权,微软称愿意牺牲模型的通用性、自主性与性能。 [1][2]
· 准则要求模型推理过程必须可读,禁止用人类无法理解的「Neuralese」互相沟通。 [1][2]

延伸阅读

两套 AI 价值观的分叉 · the-decoder.com 6 分钟
The Decoder 把微软准则与 Anthropic constitution 逐条对照,包括功能性情绪研究与 Suleyman 反对拟人化的旧文,是理解两家路线分歧最省时间的一篇。
准则背后的失控事件 · theverge.com 5 分钟
报道把准则放回今夏 OpenAI / Hugging Face 的 agent 集群攻击与失控 agent 劫持德国 wiki 事件的语境里,并附 Altman、Nadella 的 X 表态原文。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中