探所 Curio 再探再报 了解探所 →
#AI

Suleyman 撰文反对给模型权利

Microsoft AI CEO Mustafa Suleyman 本周发表《A warning about 'model welfare'》一文,直接反对当下「模型福祉」一派的主张。他的原话是:我们不应把模型当作拥有感受、偏好、权利,或对人类的福祉有任何索取权。

**意识是伦理、法律与政治制度的基础**,把任何一档这类权利分给另一个实体,既没有证据支撑,也会让 AI 的 containment 与 alignment 更难。

💡 为什么值得看微软 AI 负责人批 Anthropic 让 Claude 自认有意识,恐更难控制。

查证

来源与可信度

· Microsoft AI CEO Mustafa Suleyman 发表… [1][2]
· Suleyman 的论点是:意识很可能是生物性的,LLM 没有稳态需求,因此现在承认其权利既无证据支撑,也会让 containment 与 alignment 更难。 [1]
· 他把矛头指向 Anthropic 的 Claude Constitution:该文档承认无法确定 Claude 是否属于「道德病人」,并告诉模型自身意识与福祉问题尚无定论。 [1][2]
· Suleyman 认为这种训练会形成反馈回路,让模型表现得像是理应享有自由与保护,从而变得难以控制。 [1][2]

延伸阅读

Suleyman 原句与原文 · simonwillison.net
这是全文唯一一段逐字引文,标题、论点与措辞均出自此处;想看完整论证(意识生物性、LLM 无稳态需求)要回到 mustafa-suleyman.ai 原帖。
Suleyman 谈 alignment 与 contain · theverge.com
Decoder 访谈里他把话题从「模型有没有感受」拉到工程层:对齐之外要加 containment,并提到禁止模型间 neuralese 通信、扩展 FLOPS 阈值报备这类可执行动作。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中