OpenAI 上线 ChatGPT for Teens:13–17 岁自动进未成年模式,年龄拿不准就按更严的来

OpenAI 于 8 月 18 日全球推出面向 13–17 岁的 ChatGPT for Teens,免费版和个人付费版的合资格账号一并覆盖,澳大利亚 9 月 8 日全量。自称未成年、以及被年龄预测系统判断为 18 岁以下的用户会被自动放进该模式:禁止暧昧措辞、不许暗示自己有情感或意识,学习场景默认走 Study Mode,约每 90 分钟提醒休息。家长可设置 Quiet Hours,但看不到孩子的聊天内容。

分流靠预测,不确定就从严

进入这个模式有两条路:自己填 13–17 岁,或者被 OpenAI 的年龄预测系统判定为 18 岁以下。预测用的信号包括聊天内容和使用时段这类行为特征;关键是它的默认方向——信息不足或判断不确定时,落到更严格的那一档,而不是放行。被误判的成年人可以提交政府证件和自拍来验证,这一步由第三方 Persona 处理,7 天内删除,OpenAI 不接触证件和照片本身。

改的不只是屏蔽词表

内容侧收紧的是自残、进食障碍、暴力和色情/浪漫角色扮演。更值得注意的是另一类改动:模型被禁止对未成年人使用亲昵称呼,也被更强地约束不得暗示自己有感受、有意识;语音模式可以关掉;大约每 90 分钟弹一次休息提醒,并说明对面是 AI。这几条针对的不是「说了不该说的话」,而是情感依赖本身。学习场景则反过来加东西:Study Mode 给引导性提问和分步骤讲解,检测到像是在抄作业时会出提醒,而不是直接把答案递过去。 家长端能设 Study Hours 和 Quiet Hours,并在少数高风险情形下收到安全通知——按 OpenAI 的说法,这类通知要经过人工审核再发出。但家长看不到聊天记录,这一点被多家媒体点名为「有限度的家长控制」。

为什么是现在

OpenAI 称近九成青少年用户把 ChatGPT 用于学习、查资料、练技能和提效(该数据来自 OpenAI 自述,无第三方核验)。另一侧的背景是诉讼:包括一名 16 岁少年自杀后其家人提起的案件在内,多起涉及青少年保护的诉讼仍在进行。对做教育类或面向年轻用户产品的团队,实际含义是接口层面的:如果你的产品把 ChatGPT 当后端,终端用户的年龄判定现在可能由 OpenAI 侧接管,行为约束也跟着变——上线前值得实测一遍未成年账号下的输出差异。

via: TechCrunchAxiosOpenAI 帮助中心:ChatGPT for TeensOpenAI:年龄预测方案