G7聚焦青少年AI安全，OpenAI提出九项原则

人工智能为年轻人带来巨大机遇，它可以帮助学生理解复杂概念、练习外语、准备面试、探索创意或学习新技能。如同20世纪中叶的扫盲运动需要大规模印刷教材和培训教师一样，今天提供安全的AI工具将开启个性化学习的新可能，帮助缩小服务不足群体的差距，并提升就业准备度。

正因为潜力巨大，确保年轻人以安全、适龄、促进健康成长的方式使用AI至关重要。这一责任不应主要落在家长或年轻人自己身上，包括OpenAI在内的公司有义务默认构建带适当保护的产品，同时为家庭提供引导AI使用的工具和信息。

本月晚些时候，七国集团（G7）领导人峰会将在法国埃维昂举行，青少年AI安全将是核心议题之一。OpenAI将参会讨论如何加强青少年安全合作、共同提升行业标准，并正式呼吁成立一个国际青少年安全研究所。G7峰会是全球协调青少年安全的难得机遇，但一个专门研究所能提供超越单一峰会的持续跟进，帮助政府、研究者、民间社会和产业界持续合作，共享证据、制定指南并随时间提升标准。

OpenAI欢迎与法国政府、其他G7政府以及民间社会、学术界和产业界伙伴共同推进这项关键工作，提升全球青少年安全标准。

设定全球青少年AI安全标准

OpenAI认为，任何强有力的青少年AI安全框架（包括G7可能达成的协议）都应遵循以下九项原则：

1. 企业应知道用户是否为未成年人并应用适龄保护。 要求提供方采用有效的隐私保护年龄估计方法区分未成年人与成年人，在无法确定年龄时默认开启保护措施。

2. 企业应定期评估对年轻人的风险和收益，并在伤害发生前采取措施。 要求提供方完成年度青少年安全风险评估，并根据识别出的风险实施相应的保障措施。评估应考虑不同发展阶段的风险、实际使用中的实证证据以及相关研究或监管指南，不仅关注潜在伤害，也要评估AI是否促进了学习、创造力、技能发展和机会获取等积极成果。

3. 家长和监护人应拥有易用且直观的控制工具，引导孩子体验的同时支持适龄独立。 这些工具应包括管理记忆、数据使用和时间限制等关键设置的选项，并应积极宣传，让家长知晓并理解如何使用。

4. 家庭应获得清晰易懂的信息，了解企业如何保护年轻用户，以及AI使用的收益和风险。 企业应发布安全政策，说明为保护年轻人设置了哪些保障、可用的家长工具以及保护措施的更新机制，这种透明度能建立信任，帮助家长做出知情选择。

5. 企业应制定明确的协议处理严重安全情况，包括自残、剥削、诱导、性剥削内容及其他高风险互动。 这些协议应包括服务内支持、转介适当资源以及在适当时及时通知家长。企业还应设计系统，防止生成对儿童不安全或发展不适龄的内容，包括露骨的性暴力材料。

6. 年轻人使用的AI系统应设计为支持学习、发展和现实关系，而非取代它们。 AI应作为帮助年轻人学习、创造、培养技能和准备未来的工具，同时企业在需要人类判断、现实关系和专业支持的领域设定明确边界。

7. 应保护未成年人的个人信息。 禁止针对年轻人的隐私侵犯式定向广告，禁止企业出售个人信息。

8. 青少年安全框架应促进机会、素养和保护。 年轻人应能访问支持学习、创造力、技能发展和未来机会的AI工具，同时具备安全、负责任使用AI所需的知识和批判性思维能力，包括提升AI素养，帮助年轻人理解AI系统的机会与局限。

9. 强大的问责机制（包括独立审计）对于确保这些保护在实践中有效至关重要。 审计应基于一套通用标准，支持跨辖区的互操作审计。立法框架应包括监督和执行措施，使政府能够评估企业是否有效实施了青少年安全保护、降低了已识别风险并遵守青少年安全和隐私义务。

这些原则已体现在OpenAI构建和运营ChatGPT的方式中——从模型行为、产品设计到专家意见和实际支持。OpenAI加强了18岁以下用户的安全保障，推出了家长控制功能并带主动通知，改进了年龄预测系统以便在用户可能未满18岁时应用更强保护。模型规范中专门针对18岁以下用户设定了优先考虑青少年安全、适龄体验、现实支持和明确期望的原则，在实际中意味着加强关于自残、危险活动、露骨内容、身体形象和秘密行为的护栏，并鼓励在需要时寻求可信的线下支持或危机资源。当年龄不确定时，默认采用更强保护。

通过“教育为国家”项目，OpenAI正与政府和教育工作者合作开展研究驱动的部署、本地化学习工具和教师培训，确保AI应用基于证据和真实课堂需求。该项目已支持爱沙尼亚、希腊和新加坡等伙伴国家的国家教育工作。

OpenAI在G7峰会上的行动

除参加领导人峰会外，OpenAI还将把OpenAI论坛带到巴黎，召集政府、研究者、民间社会、教育工作者和产业界进行务实对话，探讨如何将共同的青少年安全目标转化为具体的保障、标准和实施实践。法国人工智能与数字事务大使Clara Chappaz将与OpenAI首席全球事务官Chris Lehane、iRaise/Everyone.AI的青少年安全领导者及其他专家共同讨论年轻人如何受益于AI同时降低风险。