OpenAI 发布公共政策议程：聚焦安全与普惠

OpenAI 的使命是确保通用人工智能（AGI）能够惠及全人类。其工作由五项核心原则指导，这些原则塑造了 OpenAI 构建 AI 以及参与公共政策的方式：

民主化：抵制技术将权力集中在少数人手中的可能性。
赋能：相信 AI 可以赋能每个人实现目标、学习更多、更快乐和更满足，并追求梦想，整个社会也将从中受益。
普遍繁荣：希望未来每个人都能过上优质生活。
韧性：AI 会带来新的风险，OpenAI 将与其他公司、生态系统、政府和社会合作解决这些问题。
适应性：始终相信应对高度不确定未来的唯一方法是随着学习不断更新立场。

OpenAI 认为 AI 有潜力重塑人们工作、学习、创造和参与社会的方式，而民主制度将在扩大机会、降低风险以及确保人们拥有塑造理想的 AI 未来的实际能动性方面发挥关键作用。正因如此，OpenAI 致力于让人们能够自由、安全地使用其技术。

其用户群也反映了这一承诺：工具使用者中男女比例相当，30 岁以下和以上的用户均多于其他 AI 平台，且年收入低于 10 万美元的用户多于高于该收入水平的用户，这与更广泛的全球劳动力结构类似。

OpenAI 与世界各地的政府和民间社会互动，帮助政策制定者了解 AI 技术及其影响，改善政府职能并向民众提供价值，扩大人们参与民主机构并从中受益的能力，同时制定能够推进其使命（确保 AGI 惠及全人类）的政策。

政策优先级

以下优先级反映了 OpenAI 如何将使命和原则转化为公共政策。OpenAI 支持那些有助于政府和社会应对 AI 带来的机遇与挑战、降低风险、扩大机会获取渠道，并确保人们能够有意义地参与并受益于 AI 经济的政策。这些优先级旨在帮助政府更好地服务民众，同时推进确保 AGI 惠及全人类的使命。它们代表了当前最积极参与的领域，但并非详尽无遗。随着 AI 的发展，政策优先级和参与领域也将继续演变。

安全

前沿 AI 安全是一项国家安全和公共安全问题，尤其对于最先进的通用 AI 模型而言，它们可能带来与网络、化学、生物、放射性和核（CBRN）武器相关的风险。在美国，OpenAI 支持各州围绕共同框架（如加利福尼亚州 SB 53、纽约州 RAISE 法案和伊利诺伊州 SB 315）统一标准。这些法案强调透明度、围绕灾难性风险评估和安全事件的公开报告、举报人保护，以及对未能履行安全与责任义务的开发者的可执行的问责机制。这些州级方法有助于建立协调统一的标准，减少碎片化，并为最终形成联邦框架铺平道路。

OpenAI 也支持国会采取行动，建立全面的联邦框架：利用州前沿安全法律中形成的共识；强化 AI 标准与创新中心（CAISI）作为美国联邦政府在前沿 AI 安全方面的主要机构；并动员政府制定更广泛的韧性计划，应对前沿 AI 带来的国家安全和公共安全挑战。该框架应要求 CAISI 对最强大的前沿模型进行评估，指示 CAISI 建立独立的评估生态系统，并优先监控递归自我改进（RSI）方面的进展。在全面联邦框架建立后，OpenAI 支持联邦法律优先于各州针对相同前沿安全风险的监管法律。

OpenAI 还支持美国联邦政府在制定共同国际标准方面发挥主导作用，并且是首家签署欧盟 AI 法案行为准则的美国公司。OpenAI 也是首批与美国 CAISI 和英国 AI 安全研究所（UK AISI）达成自愿协议的公司之一。

展望未来，OpenAI 认为政策制定者应开始考虑更大胆的想法，例如模型隔离方案、事件报告制度，或围绕前沿 AI 风险、防护措施和安全事件进行协调的国际治理机构。

尤其在网络安全方面，OpenAI 支持扩大可信赖的 AI 驱动网络防御工具的获取渠道，加强政府、研究人员和行业之间的伙伴关系，以进行评估、深化信息共享和建立韧性措施以强化网络安全。同时支持现代化公共部门过时的网络安全系统，并与美国联邦、州和地方各级政府以及国际合作伙伴展开合作。

青少年安全

OpenAI 认为 AI 可以帮助青少年学习、创造、发展技能和创业心态，使其在未来的经济中茁壮成长——前提是在部署时配备强大的防护措施和适龄保护。青少年应该能够在家中、学校以及为进入劳动力市场做准备时使用安全可靠的 AI，并应受到保护免受潜在的危害。OpenAI 支持针对青少年安全的强有力、可执行、基于风险的法规，以及将强大防护措施与透明度及让家庭掌控的工具相结合的框架。

这包括：隐私保护的年龄验证要求，使公司能够识别用户是否为未成年人并应用适龄保护；定期的青少年安全风险评估，在危害发生前识别可预见的风险并推动相应的防护措施；易于使用的家长控制，帮助家庭指导和监督青少年的使用体验；以及明确的公开青少年安全政策，说明现有保护措施及其演变方式。

还包括针对青少年与 AI 系统互动时可能遇到的风险设计的防护措施：防止有害或不适龄内容；针对严重安全状况的明确处理协议；以及防止操纵性或欺骗性互动的措施。危机应对协议应包括应用内支持、转介至适当的现实世界资源（例如美国的 988 自杀与危机生命线），并在适当时及时通知家长。公司还应被要求保护青少年的个人信息，包括限制对未成年人定向广告以及出售个人数据。

最后，强有力的问责机制（包括独立审计）对于确保这些保护措施在实践中有效至关重要。审计应基于一套共同标准，实现跨司法管辖区的互操作性。立法框架应包括监督和执法措施，使政府能够评估公司是否有效实施青少年安全保护措施、缓解已识别风险，并履行青少年安全和隐私义务。OpenAI 自豪地支持父母与儿童安全 AI 联盟推进这些原则，并推广实用的 AI 安全措施，以保护青少年同时保留其从 AI 中学习并受益的能力。

此外，OpenAI 支持针对儿童性虐待和剥削的强有力法律和技术保护。包括：现代化儿童保护法律，以应对生成式 AI 可能被滥用于制作合成 CSAM（儿童性虐待材料）、数字篡改现有图像、规模化诱骗或剥削活动的行为。政策制定者应确保 CSAM 法规明确涵盖 AI 生成和数字篡改的材料，明确故意制作或索取 CSAM 的刑事责任，并保留对检察官和执法部门的强大执法权。OpenAI 还支持提供商报告和协调标准，提高 CyberTipline 报告的质量和可操作性，同时减少调查负担，帮助 NCMEC（国家失踪与受虐儿童中心）和执法部门更快采取行动。最后，公司应实施安全设计措施——包括检测、拒绝机制、人工监督和持续监控——以在危害发生前中断剥削企图。

变化世界中的 AI 韧性

AI 将日益影响人们的学习、工作和参与公民生活的方式。教育机构将在培养 AI 素养和帮助学生适应 AI 无处不在的世界中发挥关键作用。OpenAI 支持帮助学生、教师、家庭和社区安全、批判性和创造性地接触 AI 的政策，同时确保教育工作者在课堂决策中保持核心地位，并决定 AI 在学校中的采用节奏。这包括对 AI 素养的投资，历史、公民、数学、科学、文学、计算机科学和职业技术教育等学科的核心教学，教师培训和专业学习时间，与劳动力对齐的学习路径，以及扩大学校、图书馆和社区机构对 AI 工具、宽带、设备和教育资源的获取。OpenAI 还支持加强对 AI 如何影响学习成果、学生福祉和教育公平的研究，并将研究成果纳入 AI 开发和部署中。

OpenAI 认为每个人都应有机会参与 AI 创造的新机遇，这也是 ChatGPT 免费的原因。OpenAI 支持扩大 AI 可负担获取渠道的政策，并通过劳动力培训和 AI 素养投资帮助工人、创业者、教育工作者和小企业采用 AI。还支持创建区域性 AI 中心，连接雇主、劳工组织、社区学院、大学、劳动力委员会和地方企业；以及小企业采用计划，提供 AI 工具、技术支持和实践培训。

OpenAI 还与劳工组织合作，扩大培训机会，帮助工人建立实用 AI 技能，为因日益强大的 AI 系统引发的经济变化做准备。OpenAI 定期发布关于工人和雇主如何使用其工具的数据，并支持劳动力透明度措施，这不仅帮助政策制定者和公众了解 AI 如何重塑工作，还能帮助识别未来工人转向新岗位和以人为中心的工作的路径。同时，OpenAI 致力于与政策制定者合作，制定并实施更宏大的劳动力与经济转型议程，包括可携带福利、税收现代化、公共财富基金和适应性安全网。

深度伪造与内容来源

OpenAI 认为 AI 可以扩展创造性表达，赋能艺术家和创作者，催生新的表达形式、评论和创造性转化，降低独立创作者、小型工作室和新声音参与创意经济的门槛。同时，人们应能了解数字内容的来源，并免受有害深度伪造（如欺骗性冒充和未经授权的数字复制品）的侵害。OpenAI 支持促进线上透明度的政策，包括要求 AI 工具在其生成的视听内容中包含来源信号（如内容来源与真实性联盟 C2PA 开发的信号），并与行业合作伙伴共同推进互操作性来源标准和内容真实性工具，帮助人们更好地了解数字内容的来源。OpenAI 支持保护声音和肖像免遭有害滥用的政策，同时保留对言论自由、模仿、新闻和其他合法用途的重要保护。

OpenAI 支持针对基于图像的性虐待的有力保护，包括将传播合成的非自愿亲密图像定为犯罪，并加强受害者救济措施。还支持与选举诚信相关的保护措施，涉及欺骗性的 AI 生成政治内容，包括禁止故意传播 AI 生成内容以误导选民，以及对某些 AI 生成的政治广告和竞选传播的披露要求。OpenAI 与受信任的选举机构合作，提供准确的投票和选举信息，并防止其系统不当推荐或排名候选人。

AI 基础设施与能源

OpenAI 认为，如果 AI 基础设施在与社区合作中发展，它将推动地方、州和国家经济增长。与当地社区合作始于了解当地需求，这也是每个 Stargate 站点都有针对性的社区计划的原因，该计划在社区咨询下制定，包括站点设计和能源来源。也正因如此，OpenAI 支持要求在水、电和政府协议方面保持透明度的政策，同时适当保留安全、商业敏感信息、商业秘密和专有信息的例外。

OpenAI 承诺在能源方面自给自足，确保运营不会推高电价，并支持确保数据中心公平承担电力成本的政策，包括要求州公用事业委员会制定大型负荷电价，要求数据中心支付其产生的增量成本。OpenAI 正在与地方公用事业公司和监管机构合作，确保数据中心有助于电网可靠性。OpenAI 还支持可持续发展报告要求，包括披露减少环境影响的技术和实践，例如低排放备用发电机和闭环或低水冷却系统。OpenAI 支持帮助当地工人获得高薪建筑工作岗位的政策，包括激励使用注册学徒和项目劳工协议。同时鼓励维持行业中立且可预测的税收与激励框架，让公司对其承诺负责，并促进周边社区的创新、创业和长期经济增长。

原文链接：OpenAI Blog
本文由前途科技编辑整理