Anthropic 开放准员工权限，深化前沿 AI 独立安全评估

Anthropic 日前宣布，已开始为前沿 AI 模型评估非营利机构 METR 的团队提供“准员工级”（employee-like）内部访问权限。此前，Anthropic 承诺推进更强有力的第三方独立评估，并签署了白宫超级智能协议，承诺与独立外部审计或评估机构建立合作。

根据安排，METR 将公开发布其风险评估结果。过去一年中，Anthropic 与 METR 开展了多次风险报告审查合作。与此同时，Anthropic 还在与 SecureBio 以及埃森哲（Accenture）展开评估合作，并正与 Hugging Face 等多家机构进行早期沟通。

引入独立评估机构的考量

随着 AI 模型能力不断提升，行业亟需更严格的安全防护机制与更具挑战性的风险评估。企业需要在决策上对公众负责，但又无法公开所有安全相关信息——部分数据可能被恶意行为者利用，或是涉及算力、训练等商业机密。

为此，Anthropic 选择向第三方评估机构开放深层信息权限，由其提供关于模型开发潜在风险的事实证据与合理推断，从而弥合外部评估者与前沿 AI 企业之间的信息差。

在评估前沿大语言模型时，评估机构通常需满足四项核心标准：

• 专业能力：具备评估前沿模型能力的专业技术，并能识别评估过程中可能出现的异常（如对齐伪装（alignment faking））。
• 独立性：不得持有被评估公司的股权，且在财务和运营上保持完全独立。
• 充分的准入权限：除调用最新模型外，还需了解模型的训练流程及防护措施的具体运行逻辑。
• 自主发布权：拥有公开发布对模型及研发流程观察评估结果的自由。

这种机制与银行监管逻辑类似。大型金融机构对自身风险暴露的了解往往远超外部机构，因此监管方会向大型银行派驻常驻审查员，在风险外溢前进行前置排查。这对 AI 行业而言，同样是迈向强有力的安全监管体系的关键一步。

何为“准员工级权限”

目前，Anthropic 已为 6 名 METR 员工配置了公司硬件设备、工位，并开通了内部系统工具访问权限，其准入级别与 Anthropic 自身的风险评估团队基本持平。除少数明确限制的范畴（如客户隐私数据、律师保密特权信息、模型底层架构等）外，Anthropic 员工被鼓励与他们互通信息，待遇与内部安全对齐团队无异。

METR 将自主发布关于 Anthropic 风险水平、安全事件或研发实践的分析报告。Anthropic 无权否决其发布，但有权要求对特定敏感范畴的信息进行脱敏。METR 可以公开说明审查修改的性质，并就脱敏是否合理发表独立看法。

双方的合作受法律协议约束，仅限指定的少数团队成员参与。METR 内部未授权人员及其他合作研究员均无法接触相关数据，确保在安全合规的前提下完成嵌入式评估。

三级评估合作体系

为与更多机构推进合作，Anthropic 设立了三级权限机制：

• 第一级（Tier 1）：评估机构开展范围较窄的专项风险调查。Anthropic 决定其访问权限，评估机构在获得批准后发布研究结果。
• 第二级（Tier 2）：评估机构无需 Anthropic 批准即可发布结果，且拥有更高的数据访问权限。Anthropic 可要求隐去特定类别信息，但机构可对脱敏的合规性公开置评。
• 第三级（Tier 3）：即 METR 当前采用的模式，评估者享有准员工级内部权限，以及与第二级相当的自主发布权。

在其他合作方进展方面，SecureBio 在完成并发布试点审查后，正在审查 Anthropic 最新发布的8 月风险报告中的化学与生物武器章节，后续有望升级权限；Anthropic 与埃森哲及 Faculty 也在推进一项雄心勃勃的合作项目，涵盖红队攻防测试、对齐评估和防护验证等多项内容。

Anthropic 表示，自愿引入嵌入式第三方评估是促进行业透明的重要举措，并呼吁前沿 AI 领域的其他开发机构采取相同标准。