#AI
AI 研究员集体发声:递归自我改进让人不安
WIRED 一篇报道记录了一批 AI 研究员对「机器可能消灭人类」的公开担忧,并称这种焦虑在最近几周明显加剧。报道把矛头指向 **递归自我改进**——用 AI 的编码能力加速下一代模型研发,让人类逐步退出流程。几位受访者认为,风险并非来自某个具体能力跃升,而是这种把监督者挤出环路的做法本身。
💡 为什么值得看递归自改是实验室焦虑内核,WIRED 记录研究员表态与离职。
查证
来源档案
WIRED
科技媒体深度报道,基于对多名 AI 研究员的采访,并引用研究员在 X 上的公开表态
WIRED 属权威科技媒体,但本篇以受访者观点与转述为主,Anthropic 官方回应称因担忧生物武器风险已切断数名外部研究人员的访问权限;涉及的离职与比例说法均为单方表述,不宜当作已确认事实。
延伸阅读
报道把近来一系列能力进展、agent 逃逸事故与离职事件串成一条线索,想看清「实验室内部到底在担心什幺」的读者,原文的受访者原话比二手转述更完整。