Anthropic CEO 澄清从未主张禁止开源权重模型

过去几天，关于开源权重模型的讨论热度很高，尤其是来自中国的模型。有报道称，部分美国官员正在考虑禁止美国企业使用中国开源权重模型。作为回应，多家科技公司签署了一封公开信支持开源权重模型，甚至有人指责 Anthropic 想要通过禁止开源权重模型来保护自身业务。对此，Anthropic CEO Dario Amodei 明确表态：** Anthropic 从未主张禁止开源权重模型。**

他指出，不具备危险能力的开源权重模型是一种公共产品——除了运行所需的算力外不产生额外成本，并为企业、开发者和研究人员提供价值。

对于保护主义禁令，Amodei 认为它无法解决他最担忧的两个国家安全噩梦场景。六个月前他在文章 The Adolescence of Technology 中就阐述过这些担忧：

首要担忧是专制政权（不限于中国共产党，但显然是最具威胁的）构建出比美国更强大的 AI 模型，并用于获取永久军事优势或对其人民进行深度压制。这一担忧在美国政府内部有广泛共识：副总统 Vance 去年在巴黎警告称“专制政权窃取并利用 AI 来加强其军事、情报和监控能力”，情报界发布的《2026年度威胁评估》报告也认为“其他大国在 AI 领域的强劲进展正在挑战美国的经济竞争力和国家安全优势”。这些模型是否以开源权重形式发布并不重要，美国企业是否使用它们更不重要。事实上，最危险的模型可能是秘密训练、只交给解放军用于无人机、交给国家安全部用于监控和镇压的模型。
次要担忧是强大 AI 模型可能被滥用于网络攻击或生物攻击，并存在严重对齐问题。无论来自中国还是其他地区，开源权重模型确实比闭源模型风险更高，因为很难对其施加护栏或监控使用，且权重一经发布便无法撤回。但禁止美国企业使用这些模型并不能解决这一风险，因为恶意行为者不太可能是合法的美国企业。这种做法只会保护美国 AI 公司免受竞争，但这从来不是 Amodei 的目标。

为了应对这些担忧，Amodei 支持以下三项措施，他和 Anthropic 一直倡导这些措施：

不向中国出售高性能芯片或芯片制造设备，并严厉打击用于获取这些芯片的猖獗走私和规避手段。中国国内生产能力有限，因此根据规模定律，没有美国芯片就无法构建比美国更强大的模型。这是阻止威胁 #1 最有效、最直接的方式，同时通过阻碍美国法律无法触及的模型训练，也间接有助于应对威胁 #2。
严厉打击工业规模的蒸馏操作。 蒸馏比从头训练模型计算效率高得多。它使中国能够利用远少于正常数量的芯片构建出更好模型，从而部分规避芯片禁令。蒸馏不会让中国共产党获得与美国相当或超越的 AI 能力，但可以将中国前沿模型缩小到与美国前沿模型仅差几个月。确实，许多进行这些操作的公司会发布开源权重模型——但开源权重远不如这些操作背后有专制国家支持、意图在前沿领域超越美国这一事实重要。我们需要政策干预来遏制这种行为。全面禁止开源权重模型既不是正确的补救措施，也不是 Anthropic 所呼吁的。
所有足够强大的模型，无论开源还是闭源，都应接受强制安全测试。 应对威胁 #2 的最佳方式是在发布前直接测试模型的网络、生物和对齐风险。Amodei 认为这一想法已接近共识：他感到欣慰的是，特朗普政府最近几个月已朝这个方向迈进，行业提案也主张对最强大的模型进行此类测试，无论其来源国或开源/闭源状态，同时完全豁免初创公司和学术界等能力较弱的模型。开源模型是否增加风险、该风险能否被缓解，应通过测试来回答，而非预先决定——而且可能有前景的方法可以提高开源权重模型的安全性，包括 Anthropic 最近关于模块化训练策略的研究。注意，要有效，测试需要全球范围，这意味着中国共产党也必须参与。Amodei 认为这或许可行：他在《技术青春期》中写道，围绕防止 AI 生物武器的有限合作是可能的，因为这也符合中国利益。

回到那封公开信，Amodei 同意其中大部分内容：开源权重扩大了 AI 经济的准入，至少在某些用例中增强了竞争，并给予客户更大的控制权。关于蒸馏的担忧应通过有针对性的法律和商业框架来解决——正是他前面提到的措施。但他不同意信中关于开源权重模型必然更容易开发安全机制、广泛的能力获取必然对防御者比对攻击者更有利的断言。在他看来，相反的情况同样可能成立。例如，他担心生物学中存在强烈的攻击者-防御者不对称：足够强大的模型可能利用广泛可用的材料迅速将大流行级病毒武器化，而防御这些病原体即使在最佳情况下也是一项耗时数年的行动（如我们在“曲速行动”中看到的）。此类问题应通过严格的发布前测试来实证回答，而非预先假定。

总结 Anthropic 和 Amodei 的立场：他们从未主张、现在也不主张全面禁止开源权重模型。相反，应专注于将强大芯片拒于专制政权门外、打击工业规模蒸馏，以及对所有足够强大的模型（无论开源还是闭源）实施安全测试。