Anthropic 开放准员工权限，深化前沿 AI 独立安全评估

Anthropic 日前宣布，已开始为前沿 AI 模型评估非营利机构 METR 的团队提供“准员工级”（employee-like）内部访问权限。此前，Anthropic 承诺推进更强有力的第三方独立评估，并签署了白宫超级智能协议，承诺与独立外部审计或评估机构建立合作。

根据安排，METR 将公开发布其风险评估结果。过去一年中，Anthropic 与 METR 开展了多次风险报告审查合作。与此同时，Anthropic 还在与 SecureBio 以及埃森哲（Accenture）展开评估合作，并正与 Hugging Face 等多家机构进行早期沟通。

引入独立评估机构的考量

随着 AI 模型能力不断提升，行业亟需更严格的安全防护机制与更具挑战性的风险评估。企业需要在决策上对公众负责，但又无法公开所有安全相关信息——部分数据可能被恶意行为者利用，或是涉及算力、训练等商业机密。

为此，Anthropic 选择向第三方评估机构开放深层信息权限，由其提供关于模型开发潜在风险的事实证据与合理推断，从而弥合外部评估者与前沿 AI 企业之间的信息差。

在评估前沿大语言模型时，评估机构通常需满足四项核心标准：

专业能力：具备评估前沿模型能力的专业技术，并能识别评估过程中可能出现的异常（如对齐伪装（alignment faking））。
独立性：不得持有被评估公司的股权，且在财务和运营上保持完全独立。
充分的准入权限：除调用最新模型外，还需了解模型的训练流程及防护措施的具体运行逻辑。
自主发布权：拥有公开发布对模型及研发流程观察评估结果的自由。

这种机制与银行监管逻辑类似。大型金融机构对自身风险暴露的了解往往远超外部机构，因此监管方会向大型银行派驻常驻审查员，在风险外溢前进行前置排查。这对 AI 行业而言，同样是迈向强有力的安全监管体系的关键一步。

何为“准员工级权限”

目前，Anthropic 已为 6 名 METR 员工配置了公司硬件设备、工位，并开通了内部系统工具访问权限，其准入级别与 Anthropic 自身的风险评估团队基本持平。除少数明确限制的范畴（如客户隐私数据、律师保密特权信息、模型底层架构等）外，Anthropic 员工被鼓励与他们互通信息，待遇与内部安全对齐团队无异。

METR 将自主发布关于 Anthropic 风险水平、安全事件或研发实践的分析报告。Anthropic 无权否决其发布，但有权要求对特定敏感范畴的信息进行脱敏。METR 可以公开说明审查修改的性质，并就脱敏是否合理发表独立看法。

双方的合作受法律协议约束，仅限指定的少数团队成员参与。METR 内部未授权人员及其他合作研究员均无法接触相关数据，确保在安全合规的前提下完成嵌入式评估。

三级评估合作体系

为与更多机构推进合作，Anthropic 设立了三级权限机制：

第一级（Tier 1）：评估机构开展范围较窄的专项风险调查。Anthropic 决定其访问权限，评估机构在获得批准后发布研究结果。
第二级（Tier 2）：评估机构无需 Anthropic 批准即可发布结果，且拥有更高的数据访问权限。Anthropic 可要求隐去特定类别信息，但机构可对脱敏的合规性公开置评。
第三级（Tier 3）：即 METR 当前采用的模式，评估者享有准员工级内部权限，以及与第二级相当的自主发布权。

在其他合作方进展方面，SecureBio 在完成并发布试点审查后，正在审查 Anthropic 最新发布的8 月风险报告中的化学与生物武器章节，后续有望升级权限；Anthropic 与埃森哲及 Faculty 也在推进一项雄心勃勃的合作项目，涵盖红队攻防测试、对齐评估和防护验证等多项内容。

Anthropic 表示，自愿引入嵌入式第三方评估是促进行业透明的重要举措，并呼吁前沿 AI 领域的其他开发机构采取相同标准。