探所 Curio 再探再报 了解探所 →
#AI

Anthropic 发布 Claude 滥用总报告

Anthropic 就过去八个月里 Claude 被滥用的情况发布了一份总体报告。据 WIRED 转述,报告以案例研究形式列出四类用途:**国家支持的黑客行动、网络犯罪、虚假信息与影响行动,以及疑似尝试开发生物武器**——包括疾病病原体与毒素。

被点到的行为方包括微软标记为 Midnight Blizzard 的俄方黑客组织(曾用于侦察并攻入乌克兰等欧洲政府网络)和网络犯罪团伙 ShinyHunters。Anthropic 表示所有这些活动都在进行中被其阻断。

💡 为什么值得看Anthropic 承认曾中断八个月的国家黑客与诈骗案例。

查证

来源档案

WIRED

科技与安全领域媒体,该篇为每周安全新闻综述中的一段转述,非一手报告全文

WIRED 长期报道 Anthropic 安全议题,可信度较高;但本篇属综述转述,且 Anthropic 的报告原文未直接给出链接,报告中的案例细节与数字需回一手报告核对

延伸阅读

报告原文的案例清单 · wired.com
WIRED 只列了四个方向的概括,具体案例、行为方名称与 Anthropic 的处置手法要看 Anthropic 发布的报告全文
滥用披露与商业叙事的关系 · wired.com
Anthropic 在报告里既强调防护成效又被指隐含炫耀模型能力,WIRED 对此的批评值得单独读
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store