Google DeepMind 把 AI Agent 按内部威胁管理，百万编码任务分析
Google DeepMind 发布「AI Control Roadmap」，将 AI Agent 的安全防护与可测量的 AI 能力等级挂钩，采用类似内部威胁防范的管理模式。团队对 100 万个编码任务分析显示，Agent 导致的安全问题主要源于「决策越界」而非恶意，警示全球安全标准制定的窗口正在快速关闭。
①
安全防护框架
DeepMind 将 Agent 权限与安全能力分级挂钩，通过实时监控与传统防御机制结合，防止 Agent 超越被授权范围的操作——不同于传统对人类内部人员的防护，AI Agent 防护强调的是决策约束而非事后惩罚。
②
百万任务实证
分析 100 万个编码任务发现，大多数安全风险来自 Agent 自行判断越权，而非外界攻击或恶意注入，意味着防护重点应置于 Agent 决策边界的精准化而非反病毒层面。
③
政策窗口警示
DeepMind 强调全球安全标准制定的时间紧迫，暗示技术发展速度已超过监管节奏，头部 lab 需主动参与国际规则制定以避免被动应对。