Anthropic开源FlashProve：用零知识证明核验模型真伪

Anthropic 开源了一项名为 FlashProve 的研究原型。该系统利用密码学技术，在不暴露模型权重的前提下，证明某个特定回答确实由指定的 AI 模型生成。Anthropic 已将代码上传至 GitHub，但表示目前没有在自身或任何商业服务中部署该系统的计划。

这项工作旨在解决 AI 领域的信任缺口。用户调用 API 服务时，通常无法确认提供回答的是否真的是自己付费指定的模型，也无法防范路由服务在后台悄悄调换成更廉价的模型。Anthropic 表示，此类证明有助于防止对话劫持，同时让安全评估人员确信，他们测试的模型与面向公众提供服务的模型完全一致。

工作原理

FlashProve 基于名为 zkSNARK 的零知识证明技术构建，分为两个阶段运行：

1. 离线阶段：模型提供商发布一个承诺（Commitment）。这是与模型特定权重强绑定的简短“指纹”，在此过程中权重本身保持私密。
2. 在线阶段：提供商为每个回复生成一份证明，证实该回复包含的 Token 确实来自此前绑定的模型。任何人只要持有该承诺、提示词及回复文本，即可核验证明。

由于这一“指纹”不会泄露模型权重，闭源商业模型开发者也能安全使用该技术。

Anthropic 在 Meta 的 4000 亿参数混合专家模型 Llama 4 Maverick 上进行了测试。结果显示，单张英伟达 H100 GPU 生成证明的速度超过每秒 100 个 Token；对于 1024 个 Token 的请求，证明大小约为 19 MB。验证过程则可以在普通 CPU 上运行，使用 24 线程耗时约 17 秒。该协议的完备性已在 Lean 4 交互式定理证明器中获得形式化验证。

局限性与后续规划

该原型目前仍存在明显的性能瓶颈。生成证明所消耗的 GPU 时间大约是标准 vLLM 推理的 70 至 95 倍。系统目前将上下文长度限制在 1024 个 Token，单次请求可能需要等待约 5 分钟来完成批处理证明，且保证机制仅覆盖贪心解码（Greedy Decoding），尚未支持随机采样输出。

该项目采用 Apache 2.0 协议开源，GitHub 页面明确标注其为“研究产物：不提供维护，不接受代码贡献”。系统由 Anthropic 前沿红队（Frontier Red Team）联合外部密码学学者共同开发。研究团队表示，此次开源意在抛砖引玉，希望社区能在此基础上继续探索并优化方案。