探所 Curio 再探再报 了解探所 →
#科技

Apple 下架 AI 换脸应用 Kromix

据 WIRED 报道,Apple 下架了一款名为 Kromix 的 App Store 应用,该 app 主打「AI image styler」,却能让用户生成真人的 AI 色情 deepfake。据称它是在通过 App Store 初步审核之后才添加了违规内容与功能。

Meta 曾为 Kromix 投放 32 条广告、全部定向男性用户,其中一条广告显示神似一位美国女性政治人物的人像,随即切到同张脸的色情画面。Meta 已撤下该 campaign,此外 WIRED 还发现另一款同类应用 MaskAI 也被 Apple 下架。

💡 为什么值得看AI 换脸 app 生成真人色情图像,两公司出手。

查证

来源档案

9to5Mac

二手转述媒体,转引 WIRED 的独家调查报道

单一媒体源、单条线索,内核事实来自 WIRED 调查,细节(广告条数、定向方式、app 名称)未获第二独立源互证,按单源线索档对待

延伸阅读

审核后变脸的漏洞 · 9to5mac.com 3 分钟
Apple 称违规是审核通过后添加的,值得看 App Store 事后审核如何抓这类变脸应用
Meta 广告审核责任 · 9to5mac.com 3 分钟
32 条定向男性的 deepfake 广告如何通过 Meta 审查,以及平台对第三方换脸工具的管控边界
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store