探所 Curio 再探再报 了解探所 →
#AI

OpenAI Astra 循环推理引发安全担忧

OpenAI 的新模型 **Astra** 被曝采用一种名为「循环深度」的推理技术,允许模型跳出大多数推理模型特有的**顺序思维**模式。

这种技术也被称为「不透明循环」,处理同一查询时会多轮循环,留下的可读痕迹更少,**实质上绕过了传统的思维链记录**。据 The Information 报道,Astra 对该技术的使用目前有限。

💡 为什么值得看循环深度替代顺序思维,专家忧监控更难,OpenAI 坚持可读性。

查证

来源档案

TechCrunch

科技行业媒体

老牌科技媒体,信息综合自 The Information 原始报道和多位安全专家公开发言,可信度中上。部分专家观点属个人评述,OpenAI 官方回应仅有一方说法。

延伸阅读

安全机制争议 · techcrunch.com
多位 AI 安全专家和研究者对该技术削弱思维链可监控性的担忧,以及 OpenAI 官方回应之间的张力
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store