#AI
OpenAI Astra 循环推理引发安全担忧
OpenAI 的新模型 **Astra** 被曝采用一种名为「循环深度」的推理技术,允许模型跳出大多数推理模型特有的**顺序思维**模式。
这种技术也被称为「不透明循环」,处理同一查询时会多轮循环,留下的可读痕迹更少,**实质上绕过了传统的思维链记录**。据 The Information 报道,Astra 对该技术的使用目前有限。
💡 为什么值得看循环深度替代顺序思维,专家忧监控更难,OpenAI 坚持可读性。
查证
来源档案
TechCrunch
科技行业媒体
老牌科技媒体,信息综合自 The Information 原始报道和多位安全专家公开发言,可信度中上。部分专家观点属个人评述,OpenAI 官方回应仅有一方说法。
延伸阅读
多位 AI 安全专家和研究者对该技术削弱思维链可监控性的担忧,以及 OpenAI 官方回应之间的张力