探所 Curio 再探再报 了解探所 →
#AI

联合国首份 AI 评估报告:agent 风险不能等

联合国科学专家组首份主题简报警告:各国须在 AI agent 风险被完全理解前加以约束。

报告主张不必等查清事故机理再动手:失控风险适用预防原则——危害或灾难性、不可逆,而概率尚不确定;专家组呼吁加大关注与资源,并加强国际安全与问责协调。

💡 为什么值得看联合国专家组首次主张对 AI agent 提前设防,与联大及中美谈判同期。

查证

来源档案

The Verge

科技媒体报道,转述联合国科学专家组简报内容,记者 Robert Hart 驻伦敦

单源二线媒体转述。简报本身是官方文档,但本条只见 The Verge 复述,未见简报原文或第二条独立源,细节以原文为准。

延伸阅读

预防原则怎幺用 · theverge.com
简报把失控风险套进 1992 年里约宣言的预防原则,这条法理线索决定了后续各国监管的正当性来源。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中