探所 Curio 再探再报 了解探所 →
#AI

Discord AI 审核误判,超 8000 用户被误封

Discord 确认其 AI 审核系统存在 bug,过去两个月错误封禁了超过 8000 个用户账号。被误判的图像类型包括棋盘、电子表格截图、游戏纹理及透明背景图片等,这些带网格图案的普通图像被系统错误标记为有害内容。

问题自 5 月起出现,上周末又有约 200 名用户被封。团队随后定位并修复了 bug,所有受影响账号正在恢复。官方解释称,系统本应先在标记后经人工审核再采取措施,但该 bug 导致直接执行封禁。

此次误封影响大量创作者和社区用户。Discord 快速承认并公开说明流程缺陷,避免了更严重的信任危机。

💡 为什么值得看AI 审核系统误将棋盘、表格等无害图像视为有害,8000 余人遭封禁,暴露自动审核的信任危机。

查证

来源档案

TechCrunch

知名科技媒体,本报道引用了 Discord 官方在 X 平台的声明以及多位用户报告。

Discord 官方称周末封禁 200 人,涉 8000+ 用户,数据来自公司陈述及用户反馈但未审计。

延伸阅读

官方声明细节 · techcrunch.com 约 5 分钟
查看 Discord 在 X 上的完整 thread,了解其目前的安全流程与改进承诺
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store