Boko Haram 利用 Claude 等 AI 策划恐怖袭击

剑桥大学研究员 Antonia Jülich 基于对 27 名前成员的 57 次面对面访谈，发现尼日利亚恐怖组织 Boko Haram 利用 ChatGPT、Claude、Gemini、Grok 等主流 AI 聊天机器人策划袭击、制造爆炸物并维护武器。

ISIS 自 2023 年起已向 Boko Haram 指挥官提供绕过安全过滤器的 jailbreak 培训。两派均设立了专门 AI 作战单元，通过投影仪演示聊天机器人使用。ISWAP 派系甚至借助 AI 复制电影中摩托车跳跃技巧以突破战壕，训练中导致 18 名武装分子死亡。

研究指出，现有自愿安全过滤机制在阻止恐怖主义滥用上已反复失效。Anthropic 此前承认 jailbreak 问题可能无法被根除。

💡 为什么值得看剑桥研究揭示所有主流 AI 安全过滤器均被绕过，AI 服务威胁进入非国家行为体手中。