探所 Curio 再探再报 了解探所 →
#AI

Anthropic 封禁 5 起生物研究滥用

Anthropic 发布了一份威胁情报报告,公开了五起研究人员用 Claude 从事生物研究的案例,并称已封禁涉事账号。报告把这些行为归为「生物误用」,认为这是前沿模型最严重的风险之一。案例细节 Anthropic 未完全披露 —— 具体机构、国家与完整证据见原文。

报告的核心发现是防护被绕过的方式:**涉事研究者绕开了 Anthropic 针对受限地区用户的访问控制,并刻意模糊研究用途来规避防护**。案例方向包括可能的功能获得性研究、禽流感等传染病,以及新发现的毒液与毒素。Anthropic 同时承认,它**无法确定这些人是否有意造成伤害**,因为危险生物学与合法研究看上去往往高度相似。

💡 为什么值得看Anthropic 罕见公开 5 起生物误用,绕过防护,或有害意。

查证

来源档案

Ars Technica / Financial Times

科技媒体转载 FT 报道,内容基于 Anthropic 当周发布的威胁情报报告与其公开表述。

FT 与 Ars 属权威媒体,但本条摘文本身的报告细节由 FT 记者整理,Anthropic 原始报告的完整数据与五个案例的判定标准未在摘文中给出,涉及「中国实验室蒸馏」的部分为 Anthropic 单方说法,需以报告原文为准。

延伸阅读

读 Anthropic 报告原文 · arstechnica.com 20 分钟
报道只摘了五起案例的方向,Anthropic 报告里对每起案例的判定依据、检测手法与「意图不明」的处理逻辑才是真正有信息量的部分,也是判断这次披露是安全研究还是公关动作的关键。
蒸馏指控的另一面 · arstechnica.com
报告把中国实验室蒸馏与生物误用放在同一份文档里发布,读者可留意这两类指控在监管与出口管制语境下被并列使用的效果。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store