OpenAI 公布国家安全合作原则

各国政府开始将前沿 AI 系统用于日益重要的工作，包括国家安全。这给 AI 实验室、政府和公民社会带来了新的要求——需要共同探讨这些工具在敏感场景中的使用方式。

OpenAI 认为，民主社会应能利用 AI 保护人民、防御关键基础设施、提供公共服务并应对新兴威胁，特别是在网络防御和生物安全等 AI 能给防御方带来优势的领域。但日益强大的 AI 系统必须以强化民主问责、人类判断和法治，以及巩固民主机构而非集中权力的方式部署。

今天，OpenAI 发布国家安全原则，为政府合作及国家安全用途提供透明度。

这些原则体现了公司的跨部门努力，旨在随着技术发展，构建更全面的国家安全和执法合作框架。OpenAI 邀请了国家安全领域的资深专家 David Kris 协助推进并提供独立判断，在公司内部举行了听证会，并召集了来自研究、安全、政策和政府合作等多个团队的员工参与。

选择现在发布，是因为 OpenAI 正在扩大与美国政府及盟友在关键防御领域的合作，尤其是网络和生物安全。过去一个月，作为 Daybreak 网络防御计划的一部分，OpenAI 已与澳大利亚、加拿大、日本、韩国、法国、德国、波兰、荷兰及欧盟网络安全局（ENISA）等机构建立了可信网络访问合作关系。同时，OpenAI 与英国政府在网络测试与评估方面也建立了日益增强的信任合作。生物安全方面，OpenAI 同样采取了类似路径。上个月，OpenAI 还宣布为支持公共卫生和生物防御任务的美国特定政府机构及盟友，扩大对 GPT‑Rosalind 模型的可信访问。

这些原则适用于 OpenAI 当前及未来的国家安全与执法合作，包括与美国国防部的现有合作。今年早些时候宣布协议时，OpenAI 已明确几项合同限制：不得将 OpenAI 技术用于大规模国内监控、不得用于指挥自主武器系统、不得用于高风险自动化决策。这些限制与今天公布的原则一致。

OpenAI 认为，明确技术可用和不可用的边界并保持透明，是正确的做法。但关于 AI 在政府（尤其是国家安全领域）中最具深远影响的问题，应通过民主程序来回答。像 OpenAI 这样的公司，其角色是帮助为这些决策提供信息，而非独自决定。因此，OpenAI 支持通过立法手段，为最高风险的军事 AI 用途建立保障，包括国内监控、自主武器系统以及其他直接影响美国国家安全的高风险场景。

原文链接：OpenAI Blog
本文由前途科技编辑整理