OpenAI 发布 GPT-Red，AI 自我红队成功率 84%

OpenAI 公开了内部安全红队模型 GPT-Red，通过自我对弈强化学习训练，能自动发现 GPT 系列模型的提示注入漏洞。在复现 2025 年人类红队实验的间接注入场景中，GPT-Red 在 84% 的任务上成功找到攻击方法，而人类红队仅做到 13%，攻击力远超人类。

GPT-Red 已直接用于训练 GPT-5.6 Sol，使直接提示注入基准失败率降至四个月前最佳模型的六分之一，并发现此前未知的“假思维链”攻击，其成功率从对 GPT-5.1 的 95% 压至 10% 以下。在更现实的测试中，GPT-Red 攻破了 Vendy 自动售货机智能体，修改商品价格并取消他人订单。

OpenAI 明确不会对外发布 GPT-Red，仅用于内部对抗训练。

💡 为什么值得看自动化安全红队将取代人力，GPT-5.6 因此成为最健壮版本，但对攻击方能力保留引发关注。