探所 Curio 再探再报 了解探所 →
#AI

Databricks Omnigent 策略阻断 Agent 慢燃攻击

Databricks 旗下开源 agent 框架 Omnigent 发布上下文策略机制,用于阻断一种隐蔽威胁——慢燃攻击(slow-burn attack)。攻击者通过间接 prompt 注入,将窃取敏感数据的目标拆解为读取文档、撰写摘要、发送邮件等单独看来正常的动作,传统单步安全检查无法察觉。

Omnigent 的上下文策略通过会话级记忆实现防御:每次读取内部文档会推高风险评分,当累积值越过阈值,即使单步操作无害,外发动作也会被拒绝或要求人工审批。官方演示中,攻击者篡改团队 wiki 上的供应商评审手册,诱使 agent 在发送评审摘要时夹带机密报价;启用上下文策略后攻击被拦截。

💡 为什么值得看慢燃攻击将有害目标拆成正常步骤绕过单步检测,Omnigent 会话级风险评分补上这块缺口

查证

来源档案

Databricks 官方技术博客

由 Databricks 官方发布,完整演示了慢燃攻击的攻击链、Omnigent 上下文策略的阻断过程,以及防篡改设计,包含可跑通的代码示例。

一手官方源,攻击演示与技术描述在开源仓库中可复现,可信度高。

延伸阅读

换个视角 · databricks.com 约 10 分钟
仓库中的攻击演示可亲手复现,直观理解慢燃攻击与防御
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store