#AI
Anthropic 发布 Claude 滥用总报告
Anthropic 就过去八个月里 Claude 被滥用的情况发布了一份总体报告。据 WIRED 转述,报告以案例研究形式列出四类用途:**国家支持的黑客行动、网络犯罪、虚假信息与影响行动,以及疑似尝试开发生物武器**——包括疾病病原体与毒素。
被点到的行为方包括微软标记为 Midnight Blizzard 的俄方黑客组织(曾用于侦察并攻入乌克兰等欧洲政府网络)和网络犯罪团伙 ShinyHunters。Anthropic 表示所有这些活动都在进行中被其阻断。
💡 为什么值得看Anthropic 承认曾中断八个月的国家黑客与诈骗案例。
查证
来源档案
WIRED
科技与安全领域媒体,该篇为每周安全新闻综述中的一段转述,非一手报告全文
WIRED 长期报道 Anthropic 安全议题,可信度较高;但本篇属综述转述,且 Anthropic 的报告原文未直接给出链接,报告中的案例细节与数字需回一手报告核对
延伸阅读
WIRED 只列了四个方向的概括,具体案例、行为方名称与 Anthropic 的处置手法要看 Anthropic 发布的报告全文
Anthropic 在报告里既强调防护成效又被指隐含炫耀模型能力,WIRED 对此的批评值得单独读