Anthropic 安全研究员辞职警告 AI 或灭人类

Anthropic 研究员 Jacob Coxon 在 X 上宣布辞职，矛头直指公司对安全问题的态度。他早前在 OpenAI 训练 AI 系统，如今指控两家公司正「直奔自我改进的超智能，拿我们的生命下注」——因为「造 AI 的人真心相信它可能在十年内杀光我们」。

几小时后，Anthropic 一个安全团队的负责人 Evan Hubinger 公开回应，不仅认可 Coxon 的定性，还给出个人估计：十年内 AI「杀死全人类」的概率超过 10%。他同时承认，公司**尚无确保先进 AI 保持安全的计划**,也「没有明确走在这条轨道上」。Coxon 是 Anthropic 迄今最受瞩目的因安全顾虑出走者之一。

💡 为什么值得看AI 10 年内毁灭人类概率超 10%，公司无安全计划。