亚马逊CEO安迪·贾西本周与美财长等人会面,讨论Anthropic先进AI模型的安全漏洞,随后商务部下令Anthropic在全球暂停部署Claude Fable 5和Mythos 5。
亚马逊CEO安迪·贾西(Andy Jassy)本周与财政部长斯科特·贝森特(Scott Bessent)及其他特朗普政府高级官员会面,讨论了Anthropic最先进AI模型的安全漏洞。这些对话直接导致了美国商务部于6月12日(周五)发布前所未有的出口管制指令,要求Anthropic在全球范围内暂停其Claude Fable 5和Mythos 5系统的访问。

商务部长霍华德·卢特尼克(Howard Lutnick)周五致信Anthropic CEO达里奥·阿莫代(Dario Amodei),将对两个模型实施出口管制,禁止包括Anthropic自己外籍员工在内的所有美国境内外外国公民访问。Anthropic表示,在美东时间下午5点21分收到指令后,由于无法在短时间内验证所有用户的国籍,不得不为所有客户禁用这两个模型。
“该指令的实际效果是,我们必须突然为所有客户禁用Fable 5和Mythos 5以确保合规,”Anthropic在声明中表示。公司其他模型的访问不受影响。
此举是美国政府迄今对商业部署AI模型最激进的限制行动。一位政府官员告诉Axios,限制措施可能持续“未来几周”,期间将评估安全担忧。
争端核心是所谓的Fable 5“越狱”——据称研究人员利用该模型提取了可用于网络攻击的信息。Anthropic将其描述为“潜在的、非普遍性的越狱”,涉及已知漏洞,认为模型只是被提示读取特定代码库并识别软件缺陷。
前白宫AI顾问戴维·萨克斯(David Sacks)周六表示,在“一个高度可信的合作伙伴”报告漏洞后,阿莫代拒绝了政府“修复越狱或停用模型”的要求。Anthropic则质疑担忧的范围,称指令是一场“误会”,并希望“尽快”恢复访问。
这一事件凸显了AI行业内的复杂纠葛。亚马逊通过自己的Nova模型与Anthropic竞争,同时又是其云服务提供商和最大投资者(投资额超40亿美元)。网络安全专家凯蒂·穆苏里斯(Katie Moussouris)在审阅越狱报告后称政府的反应“完全过度”,而一位民主党众议员则将指令称为“企业谋杀未遂”。
Fable 5于6月9日公开发布,是更强大的Mythos 5的一个版本。由于Mythos 5能识别零日漏洞,Anthropic自4月起就将其限制在经过审查的网络安全防御者手中。该模型此前已引起联邦官员警惕,促使贝森特和美联储主席杰罗姆·鲍威尔(Jerome Powell)向银行CEO们警告其风险。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断