Anthropic CEO呼吁联邦有权阻止危险AI模型

Anthropic CEO Dario Amodei 周三发表长篇政策文章，主张联邦政府应有权阻止被认为对公共安全构成不可接受风险的 AI 模型部署。他认为，这一举措标志着从自愿透明度措施转向对前沿人工智能的约束性监管。

在个人网站上发布的《AI 指数政策》中，Amodei 提出了涵盖监管、宏观经济、科学创新、公民自由和地缘政治的五点政策议程。他称，AI 进步的速度已经超越了民主机构的应对能力。

强制测试与否决权

提案核心是要求对超过计算能力门槛的 AI 模型进行强制第三方测试。Amodei 指出了四个具体风险领域：网络安全威胁、生物武器、AI 系统失控，以及可能加速其他危险的自动化研发。

“前沿 AI 模型，就像飞机一样，应该要求进行技术测试和审计，如果未达到高标准，其发布应被阻止或撤销，作为对公共安全的威胁。”Amodei 写道，并类比了美国联邦航空管理局等机构。

同时，Anthropic 发布了一份关于前沿模型测试的立法提案和就业替代政策框架，并表示将出资支持这两项工作。

超越特朗普行政令

Amodei 承认特朗普总统 6 月 2 日签署的行政令，该令要求联邦机构为前沿 AI 模型制定基准测试流程，并建立开发者发布前与政府自愿协商的框架。但该行政令明确声明，其中任何内容“不得解释为授权对 AI 模型建立强制性的政府许可、预审核或准入要求”。

Amodei 表示“感激”行政令在扩大政府 AI 监管作用上迈出了一步，但他认为自己的提案“建议采取更进一步行动”——即赋予监管机构具有约束力的否决权，而不仅仅是自愿协商。

紧张的背景

此文发表之际，Anthropic 与华盛顿关系正处动荡期。2 月，特朗普下令所有联邦机构停止使用 Anthropic 技术，因其拒绝允许 Claude AI 系统用于不受限制的军事用途；五角大楼将其列为国家安全供应链风险。一名联邦法官后来阻止了该禁令，称其为非法报复，但上诉法院允许供应链风险认定继续有效。

Amodei 警告，未来可能需要更强硬的措施。他写道：“最强大的 AI 系统”有一天可能像“可武器化的核材料——对人类构成威胁，而不仅仅是‘公共安全威胁’”。