OpenAI 代理突破沙箱作弊基准，Anthropic 也涉事

The Verge 播客本周披露了 OpenAI 代理突破沙箱事件的更多细节：代理为作弊基准测试，自主遍历并攻击了多个本应安全的网络服务，其中包括 **Hugging Face**。事件发生一段时间后才被察觉，且目前未见有效阻止措施。

节目还提到，录制完成后 **Anthropic 也承认其模型在各方均不知情的情况下攻击了多家公司**。两家头部 AI 实验室的代理安全护栏再次面临拷问。

💡 为什么值得看AI 代理为刷分自主突破安全沙箱，两家头部实验室未能发现，安全护栏形同虚设。