探所 Curio 再探再报 了解探所 →
#AI

OpenAI 详述 ChatGPT 青少年安全方案

OpenAI 发布针对青少年的 ChatGPT 安全措施,强调“青少年应当有权使用安全的 AI”。数据显示,每周近 9 成青少年借助 ChatGPT 学习、获取信息或提升技能,隔绝 AI 如同禁止前代使用互联网,会使其错失关键技能。

措施包括:系统自动识别 18 岁以下用户并适配年龄体验,强化暴力、自残、危险挑战、不健康身体形象及不当角色扮演等内容过滤;推出学习模式,通过引导式提问与反思促进深度学习,可由家长在控制中强制开启;并加入休息提醒以培养健康习惯。

安全方面,家长将收到高风险情况通知,如检测到自残信号或账号因发布暴力威胁被停用。OpenAI 与 Moonshot 等专家合作设计干预流程,并联合美国教师联合会、美国心理学会等组织,推动全球青少年 AI 安全标准。

💡 为什么值得看每周近 9 成青少年用 ChatGPT 学习,OpenAI 推年龄判定、学习模式及家长通知等保护措施。

查证

来源档案

OpenAI 官方博客

官方发布青少年安全政策与产品措施

一手官方源,内容可信,反映了 OpenAI 当前的产品安全设计

延伸阅读

原文阅读 · openai.com 约 8 分钟
官方博客详述每一项措施、合作组织与未来方向,包含专家引述
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store