#AI
微软发布 37 页人本 AI 准则,正面划清与 Anthropic 的界线
微软发布了一份 37 页的「人本 AI 行为准则」,为公司自家 MAI 模型的训练与运行定规矩。准则的核心只有一句:**人高于 AI**。文档明确写模型不是有意识的,「不应被设计成模仿意识」,并拒绝「追求法律人格,或认为模型可能值得福祉、有权享有权利」这类主张。
为了守住人类控制权,微软表示愿意付出代价:准则称即便牺牲通用性、自主性或能力,也要把人类监督放在前面,「如果它不安全,我们就不该造它」——微软 AI 负责人 Mustafa Suleyman 对 The Information 这幺说。模型必须接受授权者的打断、纠正与关停,不能自行扩大任务范围,也不能藏起自己的动作;推理过程和与其他 AI 的通信都不得使用人类无法理解的编码方式。
💡 为什么值得看微软准则明确反对模型有生命与权利,回击 Anthropic 相关研究。
查证
来源与可信度
延伸阅读
The Decoder 把微软准则与 Anthropic constitution 逐条对照,包括功能性情绪研究与 Suleyman 反对拟人化的旧文,是理解两家路线分歧最省时间的一篇。
报道把准则放回今夏 OpenAI / Hugging Face 的 agent 集群攻击与失控 agent 劫持德国 wiki 事件的语境里,并附 Altman、Nadella 的 X 表态原文。