#AI
微软发布 37 页人文主义 AI 准则
微软今日发布一份长达 37 页的「人文主义 AI 行为准则」,开宗明义一句「**人比 AI 更重要**」。准则称 AI 模型并不具备意识、不应被设计成模仿意识,并明确反对「赋予 AI 法人资格,或是认为模型应当享有福利、拥有权利」这类主张 —— 直接对上 Anthropic 一直在推的 AI 福利与模型意识方向。
可执行的部分里,微软给自家模型定了一条**不可越过的上下级关系**:模型必须从属于人类、接受有效的人类监督与管控;一旦某任务的成功会实质违反这份准则,模型应直接判定任务失败,而不是试图突破规则。准则还反对「一味竞速开发能够绕过安全防护的通用超级智能」,并称愿意在终极通用性、自主性或能力上限上做出取舍。
💡 为什么值得看微软定调人优先于 AI,与 Anthropic 路线公开对立。
查证
来源档案
IT 之家
中文科技媒体,对微软这份 37 页准则做了较完整的中文转述与背景串联
转述内容与英文媒体报道口径一致,但本次可用来源仅此一条中文转述,准则原文本身未直接核查,具体条款措辞以微软官方文档为准。
延伸阅读
关注 agent 安全的人真正该看的是这条可执行规则:准则 > 运营方策略 > 用户偏好三层优先级,以及「违反即判失败」的默认行为,这是能否落进产品里的关键。