探所 Curio 再探再报 了解探所 →
#AI

微软发布 37 页人文主义 AI 准则

微软今日发布一份长达 37 页的「人文主义 AI 行为准则」,开宗明义一句「**人比 AI 更重要**」。准则称 AI 模型并不具备意识、不应被设计成模仿意识,并明确反对「赋予 AI 法人资格,或是认为模型应当享有福利、拥有权利」这类主张 —— 直接对上 Anthropic 一直在推的 AI 福利与模型意识方向。

可执行的部分里,微软给自家模型定了一条**不可越过的上下级关系**:模型必须从属于人类、接受有效的人类监督与管控;一旦某任务的成功会实质违反这份准则,模型应直接判定任务失败,而不是试图突破规则。准则还反对「一味竞速开发能够绕过安全防护的通用超级智能」,并称愿意在终极通用性、自主性或能力上限上做出取舍。

💡 为什么值得看微软定调人优先于 AI,与 Anthropic 路线公开对立。

查证

来源档案

IT 之家

中文科技媒体,对微软这份 37 页准则做了较完整的中文转述与背景串联

转述内容与英文媒体报道口径一致,但本次可用来源仅此一条中文转述,准则原文本身未直接核查,具体条款措辞以微软官方文档为准。

延伸阅读

准则的层级与失败语义 · ithome.com 5 分钟
关注 agent 安全的人真正该看的是这条可执行规则:准则 > 运营方策略 > 用户偏好三层优先级,以及「违反即判失败」的默认行为,这是能否落进产品里的关键。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中