OpenAI与微软等签署巴黎AI安全倡议

六国政府与包括 Anthropic、OpenAI 和微软在内的十家人工智能公司，于 11 月 9 日共同签署《巴黎人工智能安全与保障倡议》（Paris Call for AI Safety and Security）。根据法国爱丽舍宫发布的信息，该倡议承诺联合评估前沿模型、设立安全事件预警系统，并进一步明确开发者的责任追究机制。该文件不具法律约束力，后续向更多签署方开放。

签署该倡议的国家包括法国、加拿大、芬兰、挪威、荷兰和巴林。企业签约方除 OpenAI、Anthropic 和微软外，还包括 Mistral AI、Cohere、Hugging Face、Sakana AI、Black Forest Labs、Domyn 和 Synthesia。

马克龙召集多方闭门磋商

法国总统马克龙通过视频连线召集了约 50 位参会者，包括多国领导人、科研学者以及 AI 实验室负责人。据德新社报道，英国、日本和塞拉利昂的领导人参加了磋商，但未被列入首批签署国名单。

美国财政部长斯科特·贝森特（Scott Bessent）以及联合国、经合组织（OECD）代表出席。OpenAI 首席执行官山姆·奥特曼（Sam Altman）、Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）以及微软总裁布拉德·史密斯（Brad Smith）也参与了会议。马克龙表示，与会各方承诺独立、公开地评估最先进模型的风险，更有效地共享严重事件预警，并追究开发者责任。Yoshua Bengio 创立的 LawZero、SaferAI 等民间社会机构和智库同样参与了签署。

倡议明确三大核心承诺

该倡议主要围绕三项承诺展开：

1. 前沿模型评估与管理：聚焦网络攻防、化生放核（CBRN）领域的滥用风险，以及自主性增强、模型失控等潜在威胁。签署方同意将非敏感评估结果以标准化格式发布至公共存储库。
2. 明确开发者问责机制：开发商承诺公开模型的能力、局限与已知风险，配合独立第三方的风险评估。此外，开发者须建立安全熔断机制，在必要时暂停或关闭其控制下的模型（包含训练与内部调用阶段）。政策制定者则承诺进一步明确 AI 造成大规模或跨境损害时的法律责任主体。
3. 事件快速预警体系：建立重大网络安全与 AI 失控事件的快速通报机制，促进跨机构情报共享。政府方同时承诺为内部吹哨人开辟受保护的安全举报渠道。

安全事件频发成推进背景

该倡议的出台正值多起网络安全事件爆发。11 月 2 日，欧洲 11 国部分超市制冷系统疑遭网络攻击瘫痪；网络安全公司 Wiz 亦将 10 月称为“黑色十月”，期间至少 9 家 AI 开发平台公开了安全漏洞或事件。爱丽舍宫表示，该倡议旨在为各国及欧盟后续的 AI 立法辩论提供重要参考。