OpenAI 发文指出,青少年是伴随 AI 成长的第一代,应享有安全访问 AI 的权利。公司推出学习模式、家长控制、年龄预测等新功能,旨在让青少年在保护下探索 AI,避免不当内容,培养健康习惯。
青少年是伴随人工智能成长的第一代,这项技术将深刻塑造他们的未来。目前,每周有近九成使用 ChatGPT 的青少年将其用于学习、获取信息、提升技能或提高效率。正因如此,OpenAI 认为青少年获得 AI 的访问权限至关重要。等到成年才让他们接触 AI,就好比要求上一代人等到 18 岁才使用互联网或搜索引擎,这会使他们更难以掌握自己时代的标志性技术。但必须为青少年量身定制保护措施。
在近期 OpenAI Academy 活动中,Oriana McKenzie 分享了 ChatGPT 如何帮助她更聪明地学习、管理学业,最终在高中班级排名第一——这为她热爱的运动与课外项目节省了时间。她的故事展示了当青少年获得有助于学习和创造的 AI 时,一切皆有可能。
为了最大化这些益处,青少年需要更适合其年龄阶段的更强保护,包括自动护栏,让他们能自信地探索、学习和创造,同时获得年龄适配的安全保障。随着 AI 能力不断增强,OpenAI 的责任是将广泛访问与适合年龄的保护相结合,让青少年在技术演进中受益。
过去一年里,这意味着加强青少年默认保护、推出年龄预测、扩展家长控制、创建额外的家庭资源以帮助父母支持健康负责的使用,以及引入学习功能以促进深度理解,而不仅仅是提供答案。
学习是青少年从 AI 受益最明显的领域之一,因此 OpenAI 正在构建鼓励主动参与、批判性思维和深度理解的工具。学习模式 是联合教师、学习科学家和教学专家设计的,旨在引导学生通过引导性问题、结构化解释和反思机会一步步解决问题,而不是直接提供答案。对学习模式等工具的早期评估 已显示出学生成绩的显著提升,这有助于我们更广泛地研究 AI 如何支持学习成果。
虽然青少年可以自己打开此模式,但现在拥有关联青少年账户的家长可以直接从 家长控制 开启学习模式。启用后,每当青少年开始新对话时,该模式将默认开启,为家庭提供另一种指导 ChatGPT 用于功课学习的方式。

OpenAI 最近还为青少年引入了以教育为中心的起始提示,使其更容易从分解主题、将笔记转化为学习指南、创建闪卡或练习题以及检查证据和清晰度等任务开始。

OpenAI 还在持续扩展交互式学习体验。研究一直表明,当人们能主动参与概念而非被动接收信息时,学习效果更好。自今年早些时候推出以来,每周有 1800 万用户使用 ChatGPT 中的数学和科学交互式体验,且体验已扩展到超过 250 个新主题,从积分、有丝分裂到月相、光合作用等。OpenAI 还推出了发音练习体验,利用音频帮助人们学习超过 61 种语言的单词发音。
如果系统预估 使用 ChatGPT 的人未满 18 岁,会自动提供更适合年龄的体验。青少年仍可使用 ChatGPT 学习、创造和探索,但增加了额外保护,以减少接触可能不适合他们的内容。包括对血腥暴力、自残、危险病毒式挑战、不健康身体形象内容以及危险、浪漫或性角色扮演的更强防护。核心目标是确保 ChatGPT 始终是学习和创造的工具,而非现实关系的替代品。
OpenAI 还设计 ChatGPT 以鼓励健康习惯。长时间使用 ChatGPT 的青少年将收到更频繁的休息提醒,提示他们暂停并离开。这些提醒旨在帮助年轻人建立平衡的技术使用习惯,同时仍保有使用 AI 进行学习、创造和解决问题的自由。

OpenAI 认为最佳的安全工具能帮助家庭共同引导青少年的在线体验。我们构建了家长控制和通知,允许他们设置静默时间、关闭语音模式、管理图像生成访问权限,并在某些高风险情况下(如潜在自残迹象)接收通知。
我们正在扩展这些通知,涵盖关联青少年账户因违反使用政策(在线暴力威胁或暴力行为)而被停用的情况。这种方法帮助家长了解严重事件的发生,同时尊重青少年隐私,鼓励离线对话和支持。
在开发这些功能时,我们咨询了多位专家,包括 Moonshot(一家预防在线暴力的领先机构),以确保干预措施深思熟虑、有效,并专注于帮助家庭在需要时做出回应。

保护青少年在线安全并非任何一家公司能单独解决的问题。OpenAI 与青少年、家长、教育工作者、儿童安全专家、心理健康专业人士、研究人员、政府和民间社会组织紧密合作。这些伙伴关系帮助我们更好地了解年轻人的需求、识别新兴风险、评估保护措施的有效性,并确保政策以独立专业知识为依据。
今年,我们还加入了家庭在线安全研究所(FOSI),该机构长期倡导为家庭和年轻人提供安全的在线体验。我们将共同努力,确保年轻人能从 AI 中受益,并以赋权家长和负责任行业实践为核心。希望这一合作能推动对有效方法的共同理解,加强年龄适宜保护和家长工具,并支持全行业努力,使年轻人能安全、负责任地受益于 AI。
保护青少年在线安全需要持续进步。未来几个月,OpenAI 将继续加强年龄适宜保护、为家长提供更多工具和控制、改进对严重危害的防护、推进健康 AI 使用研究,以及构建更多帮助青少年积极学习并自信使用 AI 的体验。
我们深知还有很多工作要做,并将继续与青少年、家长、教育工作者、专家和全球社区合作,为青少年带来安全广泛的访问。
原文链接:OpenAI Blog
本文由前途科技编辑整理
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断