#AI
Suleyman 撰文反对给模型权利
Microsoft AI CEO Mustafa Suleyman 本周发表《A warning about 'model welfare'》一文,直接反对当下「模型福祉」一派的主张。他的原话是:我们不应把模型当作拥有感受、偏好、权利,或对人类的福祉有任何索取权。
**意识是伦理、法律与政治制度的基础**,把任何一档这类权利分给另一个实体,既没有证据支撑,也会让 AI 的 containment 与 alignment 更难。
💡 为什么值得看微软 AI 负责人批 Anthropic 让 Claude 自认有意识,恐更难控制。
查证
来源与可信度
弱
· Suleyman 的论点是:意识很可能是生物性的,LLM 没有稳态需求,因此现在承认其权利既无证据支撑,也会让 containment 与 alignment 更难。
[1]
延伸阅读
这是全文唯一一段逐字引文,标题、论点与措辞均出自此处;想看完整论证(意识生物性、LLM 无稳态需求)要回到 mustafa-suleyman.ai 原帖。
Decoder 访谈里他把话题从「模型有没有感受」拉到工程层:对齐之外要加 containment,并提到禁止模型间 neuralese 通信、扩展 FLOPS 阈值报备这类可执行动作。