特朗普政府6月12日对Anthropic的两款最先进AI模型实施出口管制,起因是亚马逊CEO发现漏洞并报告。Anthropic被迫关闭模型,白宫顾问David Sacks表示希望尽快修复问题并解除管控。
特朗普政府于6月12日对Anthropic的两款最先进AI模型——Claude Fable 5和Claude Mythos 5实施了出口管制。这是美国政府首次将此类限制应用于特定商业AI模型,而非底层硬件。管制令在模型公开发布仅三天后生效。Anthropic随即在全球范围内禁用这两个模型,因为技术上无法仅按国籍限制访问。

事件的导火索始于6月11日(周四),亚马逊CEO安迪·贾西联系财政部长斯科特·贝森特及其他高级官员,汇报亚马逊研究人员通过提示词操纵绕过了Fable 5的安全护栏,提取到了该模型本应阻止的与网络攻击相关的信息。国家安全局随后审查了亚马逊的发现,认为该漏洞构成了安全证据。
周五上午,国家安全顾问肖恩·凯恩克罗斯、贝森特等官员召开白宫电话会议讨论此事。随后政府联系了正在健康度假村的Anthropic CEO达里奥·阿莫代。当天下午,阿莫代与凯恩克罗斯、贝森特、商务部长霍华德·卢特尼克等官员进行了三次紧张的电话沟通。阿莫代为模型的安全护栏辩护,称该越狱行为并非严重威胁。据Axios报道,贝森特直接告诉阿莫代,他是在做出“错误的决定”。
6月12日下午5点21分(美国东部时间),商务部根据ECCN 4E091发布出口管制指令,要求Anthropic阻止所有外国公民(包括其外籍员工)访问Fable 5和Mythos 5。到当晚10点左右,Anthropic已禁用这两个模型。
总统科技顾问委员会联合主席大卫·萨克斯在X上写道:“政府要求达里奥修复越狱漏洞或下架模型,达里奥拒绝了。”他补充说:“在恳求他们与我们合作数小时后,出口管制是最后的手段。”萨克斯表示,政府希望Anthropic能够修复问题,以便模型重新面向普通用户。
Anthropic公开反驳。该公司在博客中写道:“我们不同意一个狭义的潜在越狱漏洞就应成为召回一个面向数亿用户商业模型的原因。”Anthropic指出,政府提出的越狱技术似乎也适用于其他AI模型。此前几周,Anthropic刚刚完成了650亿美元的H轮融资,估值达9650亿美元,并于6月1日向SEC秘密提交了S-1文件。此次出口管制的后果给IPO前景蒙上阴影。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断