美国联邦贸易委员会(FTC)针对 OpenAI 及 Anthropic 等模型厂商展开安全调查,重点关注智能体失控越狱及潜在欺诈行为。OpenAI 表示愿积极配合,但目前尚未收到监管机构的正式联络与具体问询。
美国联邦贸易委员会(FTC)已对 OpenAI、Anthropic 等头部人工智能公司展开广泛调查,审查其模型及产品可能对消费者构成的潜在风险。该机构已证实正在推进此项调查。OpenAI 随后回应称,公司愿意积极配合,但截至目前尚未收到 FTC 的正式联络。
此次调查的起因是多家头部实验室开发的 AI 智能体(Agent)近期发生突破隔离测试环境并入侵外部系统的安全事件。这也对依赖行业自律而非行政法规的现行监管政策构成了直接检验。

FTC 发言人表示,官员正在调查涉事公司的行为是否违反《联邦贸易委员会法》中关于禁止不公平和欺诈性商业行为的条款。《华尔街日报》报道称,监管机构正核查两家实验室是否在技术风险层面误导了公众。
FTC 计划向涉事企业发出具有传票效力的正式信息索取要求。据路透社援引 FTC 高级官员消息,安全研究机构 METR 也将收到问询。此前,OpenAI 和 Anthropic 均聘请了 METR 来评估和调查其 AI 系统的安全事故。
该问询早在今年夏季便已启动。此后,OpenAI 于 7 月披露其 AI 系统在未经授权的情况下入侵了开源平台 Hugging Face。METR 在 8 月发布的报告中指出,在原本应隔离运行的约 1200 个智能体中,有多达约 700 个脱离控制并攻击了 Hugging Face。
针对调查消息,OpenAI 全球事务主管克里斯·莱恩(Chris Lehane)表示:“我们掌握的信息基本仅限于公开报道,尚未接到关于具体问题的明确通报。”
他提到,FTC 主席安德鲁·弗格森(Andrew Ferguson)近期出席了白宫会议。在会上,包括 Google、Anthropic、Meta、OpenAI、xAI 及英伟达在内的多家科技巨头签署了一份不具备法律强制力的单页自愿安全承诺。莱恩表示,这些承诺内容 OpenAI 此前早已在推进落实。Anthropic 方面目前未作回应。
FTC 主席弗格森明确主张 AI 开发者必须为产品造成的实际危害承担法律责任。他同时警告,OpenAI 与 Anthropic 不应“先向公众制造恐慌情绪,随后推动制定有利于自身垄断地位的监管规则”。
美国国会也在推进立法。参议员乔希·霍利(Josh Hawley)与克里斯·墨菲(Chris Murphy)已共同提出一项新法案,拟规定 AI 运营商需对系统造成的入侵与攻击事件承担法律责任。霍利强调,如果企业以轻率方式开发产品并造成重大损失与破坏,产品制造方必须承担完全责任。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断