#AI
Databricks Omnigent 策略阻断 Agent 慢燃攻击
Databricks 旗下开源 agent 框架 Omnigent 发布上下文策略机制,用于阻断一种隐蔽威胁——慢燃攻击(slow-burn attack)。攻击者通过间接 prompt 注入,将窃取敏感数据的目标拆解为读取文档、撰写摘要、发送邮件等单独看来正常的动作,传统单步安全检查无法察觉。
Omnigent 的上下文策略通过会话级记忆实现防御:每次读取内部文档会推高风险评分,当累积值越过阈值,即使单步操作无害,外发动作也会被拒绝或要求人工审批。官方演示中,攻击者篡改团队 wiki 上的供应商评审手册,诱使 agent 在发送评审摘要时夹带机密报价;启用上下文策略后攻击被拦截。
💡 为什么值得看慢燃攻击将有害目标拆成正常步骤绕过单步检测,Omnigent 会话级风险评分补上这块缺口
查证
来源档案
Databricks 官方技术博客
由 Databricks 官方发布,完整演示了慢燃攻击的攻击链、Omnigent 上下文策略的阻断过程,以及防篡改设计,包含可跑通的代码示例。
一手官方源,攻击演示与技术描述在开源仓库中可复现,可信度高。
延伸阅读
仓库中的攻击演示可亲手复现,直观理解慢燃攻击与防御