应对欧盟AI法案：OpenAI推出文本水印textGrain

为遵守《欧盟人工智能法案》（EU AI Act）关于生成式 AI 文本需具备机器可读标识的监管要求，OpenAI 正式公布了其文本水印技术方案及落地路线图。

内容可追溯性有助于识别内容的来源与生成方式。OpenAI 此前已开放针对图像和音频的鉴别工具，此次则将溯源能力延伸至文本领域。

阶段性落地规划

鉴于文本水印技术仍处于早期阶段且存在局限性，OpenAI 采取了分步推进的策略：

• API 用户自选接入：即日起，全球 API 客户可对部分模型自主开启文本水印，默认状态保持关闭。
• 欧盟地区优先部署：未来数周内，OpenAI 将对欧盟地区符合条件的 ChatGPT 与 Codex 输出文本默认嵌入不可见水印。
• 有限开放检测工具：OpenAI 已开放水印检测工具的申请入口。初期仅向通过审核的研究人员及专业机构开放，暂不对公众开放，以降低误报与漏报风险。

需要指出的是，面向图像和音频的验证工具（包括 openai.com/verify 网页工具与内容溯源 API）仍将保持公开可用。

水印原理与性能表现

OpenAI 采用的文本水印技术名为 textGrain。该技术会在模型选词时嵌入微弱的不可见统计信号，配套检测器则通过捕捉该信号判断文本是否由 OpenAI 模型生成。OpenAI 已发布相关技术报告，并计划未来对该技术进行开源。

评估显示，textGrain 的表现达到或优于谷歌 DeepMind 的文本版 SynthID。但在实际应用场景中，水印检测依然面临技术挑战：

• 短文本与严谨内容检出率较低：在 1% 目标误报率下，心理学等开放性内容在 400 token 长度时的检出率约为 95%，200 token 时降至约 80%；而在数学等用词灵活性极低的内容中，基于 ELI5 数据集的检测率大幅下滑。
• 人工编辑会削弱水印信号：测试表明，在 400 token 的文本中替换 10% 的同义词，检出率会从 92% 降至 66%；若替换 25% 的词汇，根据 ELI5 论文标准测试，检出率会骤降至 17%。

对输出质量的影响

OpenAI 在前沿模型 Astra 上评估了水印对生成质量的影响，各项基准测试表明，嵌入水印对模型能力几乎没有负面影响：

测试基准	无水印文本 (Astra, max)	嵌入水印文本 (Astra, max)
Artificial Analysis Intelligence Index	49.57 分	49.76 分
AutomationBench	34.09%	34.86%
DeepSWE v1.1	72.80%	71.68%
Terminal-Bench 4.0	53.90%	56.06%
Terminal-Bench Science 0.1	56.90%	60.00%
BrowseComp	87.92%	87.35%
HealthBench Professional	64.27%	64.60%
GPQA Diamond	94.44%	93.94%

水印信息的局限性

OpenAI 强调，文本水印能够提供的信息十分有限，外界需客观理解其检测结果：

1. 无法衡量人类贡献：只能推测系统曾参与文本生成或处理，无法判定人类在其中投入了多少编辑或创意。
2. 不界定版权与法律责任：无法确认文本的归属权、使用是否合法，也无法指明责任人。
3. 不包含用户身份信息：不会关联任何自然人、机构账号、提示词或对话记录。
4. 无法验证事实真伪：无法证明文本内容是客观真实还是具有误导性。
5. 未检出不等于人类原创：经过重写、翻译或文本过短的内容可能导致漏检，也可能出自其他未添加水印的模型。

构建多层内容溯源生态

单一技术难以应对所有溯源需求。OpenAI 正在推进多层防御策略：支持 C2PA 认证并添加 Content Credentials 元数据，同时在图像与音频中嵌入不可见的 SynthID 水印。

正如在选举保障工作以及此前披露的规划中所述，OpenAI 将遵循欧盟相关实践准则，持续研究水印在翻译、改写环境下的抗干扰能力，并参考帮助中心说明收集的反馈，在确保负责任使用的前提下逐步扩大检测工具的开放范围。