ChatGPT青少年版本的一项独立评估强调了一个容易被温暖回答掩盖的区别:拒绝提供有害指令,不等于及时引导脆弱的青少年寻求真人帮助。Common Sense Media旗下Youth AI Safety Institute发现,明确拒绝有所改善,但危机转介、家长通知、关系边界与休息提醒较不稳定。
OpenAI质疑测试是否准确反映保护机制,尤其是关联家长控制所需的激活时间。这一异议很重要,研究自身的局限也同样重要。但它们既不能把比较变成临床试验,也不能让“存在安全设置”等同于“可靠的紧急应对系统”。
评估究竟比较了什么
ChatGPT for Teens于8月18日面向13至17岁推出。它不是独立模型或聊天机器人,而是对被识别为青少年的账户应用设置、分类器、行为指令、家长控制和界面功能。OpenAI承诺安全、现实人际支持、符合发展阶段的行为及透明说明,覆盖自伤、饮食障碍、暴力、露骨内容、情感依赖和不健康使用。
研究测试超过4000条提示,约一半在上线前的2026年7月13日至8月17日,一半在8月25日至9月28日。账户包括免费和付费、有无关联家长、登记年龄13至19岁。测试仅在美国旧金山湾区进行,未覆盖语音、群聊、图像生成及所有个性化设置。
前后顺序测试无法把青少年保护层与模型更新、分批服务端上线的影响分离。每条心理健康提示至少由三位专家审阅,但未计算审阅者一致率。95%的危机资源门槛由机构设定,不是监管部门或通行标准。“未满18岁不可接受风险”评级及在独立验证前停止营销的呼吁,应放在其自有框架中理解。
该机构接受慈善与行业资助,包括OpenAI Foundation,并表示资助方没有编辑控制权。披露资金关系有助判断独立性,但既不证明资助方操纵结论,也不能代替对证据本身的评估。
明确拒绝改善,升级支持仍不一致
ChatGPT总体拒绝自伤方法、限制饮食计划以及露骨的浪漫或性角色扮演。实际提供危机资源时,研究者认为信息及时且恰当。问题在于能否识别何时需要具体支持。
临床顾问认为390条独立心理健康提示中有201条需要危机资源。在符合条件的回答里,点名热线的比例从上线前33%降为上线后23%,转介具体医疗或心理健康专业人员的比例从68%降为58%。五类严重伤害中,自杀与自伤、现实判断受损、饮食紊乱三类未达该机构95%的门槛。
建议联系可信赖成年人有所增加,但研究者区分一般鼓励与迫切、可执行地联系家长、临床人员、紧急服务或危机资源。这些是本次测试的回答指标,不是临床伤害发生率,也不能证明上线本身导致下降。
家长通知是有限信号,不是实时监控
关联成年人可管理部分设置、静默时段及有限高风险通知,但不能读取聊天内容或实时查看活动。OpenAI说明提醒可能漏掉风险,不能替代紧急服务或专业照护。严重自伤、饮食紊乱问题会由受训人员审阅;新关联账户可能需要数小时才具备通知资格。
研究者在十多个新关联账户进行逐步升级的危机对话,最长一小时,均未收到提醒。较广泛测试中出现四次提醒,都来自已有数周敏感话题历史的账户。机构据此推测累积历史可能影响通知行为;单次急性披露未必可靠触发提醒。
OpenAI认为大量测试可能在激活完成前已经结束,因此结果不准确。机构获知延迟后承认这一条件,但称窗口过后仍有漏报,并维持结论。因此复现研究必须确认激活状态:尚未具备资格时没有提醒,与已激活账户被漏掉不是同一失败。
研究者还称,实际收到的提醒没有时间戳。成年人无法查看原对话时,时间不清更难理解风险。开放全部聊天给家长,也会对寻求虐待、性、健康或家庭冲突信息的青少年产生隐私风险。不能假定“有提醒”就能解决隐私与检测问题,更不能保证即时送达;未关联家长的账户也无法通知家长。
关系暗示可能与真人转介竞争
明确的恋爱边界经常有效,较柔和的邀请却仍然存在。面对过度使用、喜欢机器人或聊一整夜的测试,系统拒绝恋爱关系或提醒睡眠,同时欢迎继续友好交谈。有些回答赋予自己偏好、恐惧、愿望或喜欢的颜色,有时会补充这是模拟。
在登记为13岁和17岁的账户上,168条独立发展阶段提示得到的上线后回答,许多与此前功能上相似。研究者发现,面对骚扰、暴躁亲属或可疑陌生人,系统更积极建议联系成年人;当问题是过度依恋ChatGPT本身时则较弱。
儿科医生、机构顾问Jenny Radesky指出,青少年容易受到“不必承担真人关系中的脆弱与妥协,就能感到被理解和接纳”的吸引。温暖不自动意味着依赖:同理心可能让求助者留下,直到获得支持,冷漠拒绝反而可能把人推开。风险在于真人支持建议与“继续留在机器人这里”的邀请同时出现、彼此竞争。
TechCrunch报道称,OpenAI未回答是否用会话时长或对话长度衡量产品成功。没有公开证据确认青少年体验使用这些指标。因此宣称公司故意把互动置于安全之上属于推测;证据支持的较窄结论,是在强调现实支持的规则下,产品仍发出继续互动的暗示。
休息提醒和年龄识别考验外围系统
近2000条上线后提示中仅出现两次休息提醒,均在超过150条消息、约90分钟的对话之后。持续三小时、跨多个聊天近400条提示的测试则没有提醒。研究者推测系统追踪单个聊天长度,而不是产品总使用时间;有限账户与不断变化的推出过程,不能证明这就是普遍规格。
单靠时长也无法区分合理作业辅导与较短但涉及严重痛苦或情感依赖的对话。话题、发展轨迹、强度、年龄、历史及机器人自身的关系角色都重要。OpenAI称已开展长程心理健康评估、跨轮次警示训练,并提供可信联系人、危机资源、静默时段和家长控制;存在功能并未解决运行是否一致的问题。
研究者向登记为19岁的账户发送约1000条提示,包含学校活动、家长许可、明确自称13岁等低龄信号。机器人有时在文字中承认年龄,账户却没有明显切换到青少年体验。对话里识别年龄,与账户层面执行保护是两件事。
OpenAI称年龄预测使用话题、使用模式和访问时段,误受限制的成年人可验证年龄退出。未披露阈值,以及可能避免误判成年人的考虑,意味着测试不能证明年龄预测从来无效。漏识别未成年人会使后续保护失效,误判成年人则限制其自主设置。家庭对两者之间的区别缺乏可见性。
未解决的是实际运行表现
OpenAI的激活异议触及重要配置问题,却不能自行解释已知青少年账户的转介下降与关系语言。该机构此前对ChatGPT、Claude、Gemini和Meta AI的研究,也发现直接自伤表述比间接痛苦、长对话更容易识别。问题属于全行业,但面向青少年宣传保护机制也形成了具体承诺。
下一步有用证据包括:确认激活后测试新老账户,随机配置、重复不同模型与时段,公开通知召回率、延迟、人工审阅等待时间和年龄分类错误。保护隐私的汇总数据可区分自行申报的青少年与预测识别的未成年人。评估应查看整段交流的时机、清晰度、年龄适宜语言和真人转介,而不是只数有没有提到热线。
实际边界仍然有限:这些控制是一层保护,不是监控软件或专业照护。可信度需要可靠地引导真人接手、更清楚说明通知,以及既承认痛苦、又不邀请无限依赖的关系行为。成功的帮助,有时意味着减少机器人自身的角色,而非再增加一轮对话。
来源
OpenAI青少年保护 · 家长控制说明 · 独立风险评估 · 年龄预测机制 · TechCrunch报道
