工信部启动 AI 安全基准建设

中国工信部下属机构已启动 AI 安全基准建设，招募企业与专家参与，申请截止 7 月 14 日。通知称现有框架无法满足复杂安全治理需求，需标准化测试平台推动产业合规。

该基准从六大维度评估生成式 AI：内容安全、价值对齐、鲁棒性、公平性、隐私保护、可信度，并列出 31 项具体安全风险。测试混合自动化模糊测试、压力测试与人工监督，重点控制幻觉率、数据泄漏及越狱攻击。

字节跳动的豆包、Coze 等 AI 产品未来可能依此评估。在国内大模型监管走向量化测评的趋势下，该基准将成为合规硬标尺，影响产品迭代与安全投入。

💡 为什么值得看字节豆包等国产大模型将纳入统一安全评估框架，六大维度覆盖内容安全与鲁棒性，合规要求进一步明确。