#AI
Databricks Omnigent 推动态治理 AI Agent
Databricks 为其开源的 AI Agent 元框架 **Omnigent** 引入**上下文策略**机制,将传统静态的“允许/拒绝”升级为动态的**会话状态感知**控制。
传统 Agent 框架仅能对单个工具调用设定规则,无法基于“此前行为”调整权限。Omnigent 的策略通过监听会话事件并维护私有状态变量,跟踪已读文档、累计风险评分或已花费金额,从而决定下一步动作:放行、阻断、转人工或转换消息。同一操作可能在会话初期自动通过,而在 Agent 读取敏感文件后须人工审批。
Omnigent 作为元框架,可统一对 Claude Code、Codex、Cursor、Pi 等多种编程 Agent 及 Custom Agent 施加策略,无需修改原有工具链。
💡 为什么值得看Agent 安全演进至动态上下文感知,能追踪会话状态并动态调整权限成本,对部署 AI Agent 具实际意义。
四种内建策略
- **Google Drive 策略**:写入仅限该会话中 Agent 创建的文件,防止篡改既有文档;读取机密文档后即时锁死对外写入权限,实现“不可向下写”的安全模型。
- **风险评分策略**:按操作类型累加风险分数,普通工具少量加分,访问标记为高度机密文件则大幅加分;跨过阈值后,邮件发送、文件分享等操作需获得人工批准。
- **成本策略**:基于会话累计模型调用费用设软/硬上限,触及前警告并询问是否继续,达到硬上限则强制切换至更便宜的模型,支持叠加每日用户级预算。
- **意图授权**:根据用户给 Agent 的初始任务描述约束权限,偏离原目标的工具调用自动拦截,即使 Agent 被注入恶意指令也难以越权。
查证
来源档案
Databricks Blog
官方一手技术博客,由 Omnigent 团队发布
一手源,对功能描述和实现细节可信,无第三方引用
延伸阅读
原文包含四个策略的详细配置截图与代码示例,适合开发者复现