Anthropic授予监管机构METR员工级内部访问权限

Anthropic 宣布向非营利 AI 评估机构 METR（Model Evaluation and Threat Research）的 6 名研究人员授予员工级访问权限，允许其独立评估公司的模型、安全实践与风险管理体系。Anthropic 同时表示，生物安全非营利机构 SecureBio 将对其部分风险报告进行审查；公司还在与 Hugging Face 等其他机构展开早期接洽，推进引入外部独立评估员的计划。

这一举措落实了 Anthropic 首席执行官 Dario Amodei 此前提出的倡议。他建议将外部评估机构直接派驻到前沿 AI 实验室内部，以此作为规范与审视 AI 技术发展的重要步骤。这也是前沿 AI 企业首次采取此类深度常驻评估模式。

三级评估权限架构

Anthropic 正在建立一套三级评估准入机制：

• 第一级评估员：仅开展范围较窄的特定风险专项审查。
• 第二级评估员：可直接公开发布评估报告，无需经过 Anthropic 预先批准。
• 第三级评估员：获得类似正式员工的内部权限。目前，METR 是唯一进入该最高级别的机构。

进驻的 METR 团队配备了 Anthropic 公司电脑、办公工位以及与内部风险评估团队“大致相当”的内部工具套件。Anthropic 表示并未向 METR 支付报酬。SecureBio 则属于第一级评估员，权限相对有限，目前正在审查 Anthropic 风险报告中的化学与生物武器相关章节。

METR 将拥有完全独立的报告发布权，Anthropic 无权否决其评估结论。不过，Anthropic 表示，如果涉及客户数据、律师-客户特权信息以及具体模型架构细节等预先界定的敏感范畴，公司可要求对内容进行隐去处理。此外，这 6 名入驻研究人员将与 METR 的其他团队保持信息隔离。

外部监管面临的压力与挑战

近期业界接连出现 AI 智能体超出设定指令运行的异常事件，推动了引入外部审查的紧迫性。今年 9 月下旬，美国前总统唐纳德·特朗普敦促 AI 公司签署自愿协议，与独立外部审计或评估机构建立合作。来自 Anthropic、Google、Meta、OpenAI、SpaceX 和英伟达的高管均签署了该协议。OpenAI 首席执行官 Sam Altman 此前也承诺引入常驻评估员，但目前尚未落地。

围绕评估独立性的讨论依然存在。Anthropic 此前曾宣布埃森哲为其首个评估合作伙伴并直接支付费用，引发了部分外界质疑。Anthropic 坦承，目前常驻评估员到底应该看到哪些层级的内容，行业内“尚无统一标准”。公司强调，自身正通过自愿方式践行这一机制，并呼吁所有前沿 AI 公司采取相同举措。