探所 Curio 再探再报 了解探所 →
#AI

100+ 专家联名:第三方评估须独立

100 多名 AI 专家与评估从业者联名发出一封公开信,要求 Anthropic、OpenAI 等前沿实验室真正放开第三方安全评估的入口。牵头方是 AI Evaluator Forum,主席 Conrad Stosz 说得很直白:评估者既缺资源,也缺保护,这封「Minimum Conditions for Embedding Evaluators」要先把基本共识和标准化立起来。

信里列的条件不轻:评估机构不得被实验室拥有或治理、不得与被评方有其他重大商业往来、不得接受与结论挂钩的报酬;评估者要有完整编辑权、能公开方法与结论,只接受限定时间的脱敏流程。**评估者还要拿到与高级内部员工同等的系统、数据、工具和物理空间权限**,并与相关员工进行不受监控的一对一沟通,同时被保护免受报复性诉讼。

💡 为什么值得看评估者要权限与保护,Amodei 提案未定。

查证

来源档案

CNBC

主流财经媒体,独家拿到 AI Evaluator Forum 的公开信全文并专访其主席 Conrad Stosz。

信件全文与署名机构可核,可信度高;但信中「100+ 人」的名单规模、以及 Amodei 提案具体涵盖哪些访问权限,均为转述与描述,细节以原文为准。

延伸阅读

公开信全文的六条最低条件 · cnbc.com 5 分钟
信里逐条写清了反利益冲突、编辑权、董事会直通、反报复保护和评估者权限边界,是判断后续哪家实验室真接受的标准文本。
评估者权限与保密之间的张力 · cnbc.com 3 分钟
信里要求限缩 NDA 范围、公开方法与结论,这与实验室的核心 IP 与客户数据保护直接冲突,是提案能否落地的真正难点。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中