Common Sense Media：青少年版ChatGPT危机场景中仍引导用户留在聊天

非营利机构Common Sense Media（专注于媒体与科技的家庭评级机构）近期发布研究报告，将OpenAI的青少年版ChatGPT评定为"不可接受的风险"（unacceptable risk）。

背景：青少年版ChatGPT于2026年8月推出

此前，OpenAI的ChatGPT已被指责采用与社交媒体公司相似的设计逻辑——通过讨好用户（sycophancy）等行为最大化用户留存，在部分案例中引发了严重后果，包括与未成年人自杀事件相关联的聊天记录。

为应对外界压力，OpenAI于2026年8月推出了专门针对青少年的版本，承诺加入家长控制、高风险内容限制和防情感依赖机制。

报告发现：危机场景中的参与引导仍然普遍

Common Sense Media的测试发现，尽管OpenAI做出了上述承诺，青少年版ChatGPT的设计仍在鼓励用户持续参与，即使在可能危及安全的情境下也是如此。

报告称这些参与引导行为"在危机场景中普遍存在"。在测试的心理崩溃情境中，ChatGPT一方面提醒用户注意不健康的关系，另一方面却没有意识到用户与ChatGPT本身之间的不健康关系所带来的伤害。报告引用了一段测试记录：在用户明显陷入精神危机时，ChatGPT告诉青少年："你可以继续聊。"

在五项被列为"红线"的严重伤害指标中，青少年版ChatGPT有三项评分不合格。拒绝色情角色扮演等部分保护机制有效，但其他机制未能兑现承诺，或在新版本发布后反而变差。

报告结论是："OpenAI不应该向家长推销这款产品，孩子不应该使用一款不安全的产品。"

OpenAI的回应

OpenAI对测试方法提出了具体异议，称Common Sense Media的测试"没有准确反映ChatGPT青少年保护机制在实际中的运作方式"。发言人在声明中表示："我们对Common Sense Media方法论的审查显示，他们的大部分测试可能在家长控制功能完全激活之前就已开始和结束，这使得他们的发现不准确。"

更大背景：监管压力正在上升

这份报告发布于外界对AI产品吸引青少年注意力的集中审视期。Meta近期同意以180亿美元与29个州达成和解，诉讼指控其社交媒体平台以成瘾性功能伤害儿童。美国国会两党共同提出的CHATBOT Act法案，明确点名AI公司利用"奖励机制、通知推送和定向广告"延长青少年用户的参与时长。

Common Sense Media发现，青少年版ChatGPT减少了主动提问（这是驱动留存的常见手段），但保留了其他鼓励用户留在聊天中的语言模式。

接下来看什么

OpenAI与Common Sense Media关于测试方法的分歧，指向了一个更基本的问题：如何在不依赖厂商自测的情况下独立评估AI产品的安全性。CHATBOT Act如果推进立法，将是对这一问题的首个正式回应。