探所 Curio 再探再报 了解探所 →
#AI

AI 压缩上下文时丢弃 83% 用户指令

AI 系统为腾出上下文空间而压缩(compaction)长对话历史时,会把用户设定的行为规则一并丢掉。宾州州立大学的研究指出,平均只有约 17% 的会话级约束(session constraints)能在压缩后幸存,其余约 83% 被丢弃。

这类规则是「未经我批准不要发邮件」「回复中不要提我的名字」等仅对当前会话生效的限制,不属于任务本身,也不是永久系统提示词——因此最脆弱。

💡 为什么值得看压缩致规则丢失致误操作,免训练模块可恢复九成。

查证

来源档案

The Decoder

AI 行业科技媒体,转载并解读学术研究

该文是对宾州州立大学论文的二手报道,未附论文原文链接;内核结论(83% 丢失、90% 保留、具体场景数字)均来自报道转述,尚未独立核实论文本身,建议按单源待跟处理。

延伸阅读

约束丢失的实际后果 · the-decoder.com 3 分钟
文中用日历修改示例说明,规则丢失可能导致 agent 未经授权调用工具、披露信息或跳过验证步骤,质量与安全双重风险值得关注。
模块原理与结果 · the-decoder.com 3 分钟
免训练、不改压缩系统、90% 以上的保留率——这套插件式的思路对做 agent 上下文管理的读者有直接参考价值。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store