OpenAI呼吁建立国际青少年AI安全机构

人工智能可以为年轻人带来巨大帮助：理解复杂概念、练习新语言、准备面试、探索创意或学习新技能。正如20世纪中叶全球扫盲运动需要大规模分发印刷文本和培训教师，今天提供安全的AI将开启个性化学习的新机遇，减少弱势群体障碍，提升就业准备度。

正因潜力巨大，年轻人必须能够以安全、适龄且有益于健康成长的方式使用AI。这一责任不应主要落在家长或青少年身上。OpenAI 等公司有责任默认构建带有适当保护措施的产品，同时为家庭提供工具和信息，指导AI的使用。

本月晚些时候，七国集团（G7）领导人峰会将在法国埃维昂举行，青少年AI安全将是核心议题之一。OpenAI 将参与讨论加强青少年安全合作、如何共同提高行业标准，并正式呼吁成立一个国际青少年AI安全研究所。

G7峰会为全球协调青少年安全提供了难得机遇。但一个专门的研究所能够提供超越单一峰会的持续性和后续行动，帮助政府、研究人员、民间社会和产业界持续合作，共享证据、制定指导方针并逐步提高标准。

实现方式有多种：设立新的国际研究所，或赋予现有或新设的国家AI研究所全球使命，与全球伙伴分享研究、证据和指导。最重要的是其功能：青少年AI安全需要持续关注、可靠证据和与技术进步同步的实用指南。

这类研究所可以建立在现有倡议基础上，例如由 OpenAI 基金会支持的 Common Sense Media 青少年AI安全研究所，以及包括 OpenAI 与美国教师联合会合作等教育工作。还应借鉴实际部署经验，如爱沙尼亚全国学校推广 ChatGPT 项目——OpenAI 正与斯坦福和爱沙尼亚研究人员合作研究影响，以促进更安全、更有效的学习使用。

OpenAI 期待与法国政府、其他G7政府以及民间社会、学术界和产业界伙伴合作，共同提高全球青少年安全标准。

全球青少年AI安全标准

我们相信，强有力的青少年AI安全框架（包括G7可能达成的任何协议）应遵循以下原则：

1. 公司应知晓用户是否为未成年人，并应用适龄保护。 要求提供商使用有效的、保护隐私的年龄估算方法区分未成年人与成年人，当无法确定年龄时默认启用保护性措施。没有这一基础，即使最善意的青少年保护也可能无法触达目标人群。

2. 公司应定期评估对青少年的风险与收益，并在危害发生前采取措施。 要求提供商完成年度青少年安全风险评估，并根据识别出的风险实施相称的保障措施。评估应考虑基于发育阶段的特定风险、实际使用中的实证证据以及相关研究或监管指引。评估不仅应考虑潜在危害，还应关注AI是否支持学习、创造力、技能发展和获取机会等积极成果。

3. 家长和监护人应拥有易用、可访问的控制工具，在支持适龄独立性的同时指导孩子的体验。 包括管理记忆、数据使用和时间限制等关键设置的家长工具。应积极推广这些工具，让家长知晓并了解如何使用。

4. 家庭应获得关于公司如何保护年轻用户的清晰易懂信息，以及AI使用对青少年的收益与风险的有意义信息。 公司应发布安全政策，说明保护年轻人的具体措施、可用的家长工具以及随风险演变更新保护措施的方式。这种透明度可以建立信任，帮助家长做出知情选择。

5. 公司应制定处理严重安全问题的明确流程，包括自残、剥削、诱骗、性剥削内容及其他高风险互动。 包括服务内支持、转介至适当资源以及适时的家长通知。公司还应设计系统，防止生成对儿童不安全或发育不恰当的内容，包括露骨的色情或暴力材料。

6. 青少年使用的AI系统应旨在支持学习、发展和现实关系，而非替代它们。 AI应作为工具帮助年轻人学习、创造、培养技能和为未来做准备。同时，公司应在那些健康发展依赖人类判断、现实关系和专业支持的领域设定明确边界。

7. 应保护未成年人的个人信息。 禁止针对青少年的侵犯隐私的定向广告，禁止公司出售个人信息。

8. 青少年安全框架应促进机会、素养和保护。 年轻人应能使用支持学习、创造力、技能发展和未来机遇的AI工具，同时配备所需的知识和批判性思维能力，以安全、负责地使用AI。包括提升AI素养，帮助年轻人理解AI系统的机遇与局限。

9. 强有力的问责机制，包括独立审计，对于确保这些保护措施在实践中有效至关重要。 审计应基于一套通用标准，允许跨司法管辖区的互操作审计。立法框架应包括监督和执法措施，使政府能够评估公司是否有效实施青少年安全保障、缓解已识别风险、并遵守青少年安全和隐私义务。

这些原则已反映在 ChatGPT 的构建和运营中，从模型行为、产品设计到专家输入和现实世界支持。我们加强了18岁以下用户的保护，推出了家长控制与主动通知功能，以及先进的年龄预测系统，以便 ChatGPT 在用户可能未满18岁时应用更强保护。我们的模型规范（Model Spec）中包含了针对18岁以下用户的专门原则，优先考虑青少年安全、适龄体验、现实世界支持和明确期望。实际操作中，这意味着对自残、危险活动、暴力内容、身体形象和保密等设定更强护栏，同时鼓励在需要时寻求可信的线下支持或危机资源。当年龄不确定时，我们默认启用更强保护。

通过强有力安全措施、清晰指导以及家庭和教育工作者的支持，AI 可以帮助年轻人安全地从扩展学习、创造力和机遇的工具中受益。AI 能帮助学生理解难点、练习语言、改进写作、学习编程、组织研究、探索创意，并为正在变化的工作做好准备。通过“教育为国家”（Education for Countries）项目，OpenAI 正与政府和教育工作者合作，进行基于研究的部署、本地化学习工具和教师培训，使AI的应用基于证据和真实课堂需求。这项工作已支持我们的合作伙伴国家（包括爱沙尼亚、希腊和新加坡）的国家教育努力。

OpenAI 在G7峰会

除了参加领导人峰会，我们还将在巴黎举办 OpenAI 论坛，召集政府、研究人员、民间社会、教育工作者和产业界进行务实对话，探讨如何将共同的青少年安全目标转化为具体保障、标准和实施实践。法国人工智能与数字事务大使 Clara Chappaz 将加入 OpenAI 首席全球事务官 Chris Lehane、iRaise/Everyone.AI 的青少年安全领导者及其他专家，共同讨论如何让年轻人在降低风险的同时从AI中受益。

---

原文链接：OpenAI Blog
本文由前途科技编辑整理