#AI
联合国首份 AI 评估报告:agent 风险不能等
联合国科学专家组首份主题简报警告:各国须在 AI agent 风险被完全理解前加以约束。
报告主张不必等查清事故机理再动手:失控风险适用预防原则——危害或灾难性、不可逆,而概率尚不确定;专家组呼吁加大关注与资源,并加强国际安全与问责协调。
💡 为什么值得看联合国专家组首次主张对 AI agent 提前设防,与联大及中美谈判同期。
查证
来源档案
The Verge
科技媒体报道,转述联合国科学专家组简报内容,记者 Robert Hart 驻伦敦
单源二线媒体转述。简报本身是官方文档,但本条只见 The Verge 复述,未见简报原文或第二条独立源,细节以原文为准。
延伸阅读
简报把失控风险套进 1992 年里约宣言的预防原则,这条法理线索决定了后续各国监管的正当性来源。