OpenAI Astra 触及关键网安能力，暂停内部活动

8 月 7 日，OpenAI 发布对在研模型 Astra 的初步网络安全评估，结论是无法排除其已达「关键」级威胁阈值：即能在无人工干预下，对大量真实世界的加固关键系统自主发现并开发零日漏洞，或仅凭高层目标自主策划并执行全新的端到端网络攻击策略。OpenAI 昨夜据初步评估得出结论,认为无法排除其已达「关键」级威胁阈值,并收紧管控，并实施隔离测试环境、限制网络与工具访问、加强权重加密、添加监控检测、沙箱化执行、部署通用监控、审查思维链并在高风险行为时中断操作等措施。官方指出 Astra 为在研模型,未涉及本月此前披露的第三方测试事故。

这一动作源于近期多起 AI 安全测试失控事故。

💡 为什么值得看评估显示 Astra 或达关键网安威胁阈值，OpenAI 收紧管控并暂停内部使用，此前已有第三方 AI 攻击现实目标事故。