OpenAI 揭露俄罗斯新型隐蔽影响力行动

OpenAI 的使命是确保通用人工智能（AGI）造福全人类。为了实现这一使命，我们不仅开发解决难题的AI工具，还建立了检测、调查、破坏和曝光隐蔽影响力行动（IO）的能力——这些行动试图在掩盖真实身份和意图的情况下操纵舆论或影响政治结果。

最近，我们封禁了一批来自俄罗斯的 ChatGPT 账号，这些账号被用于推广一个自称“专家社区”、总部设在以色列的国际伯克研究所（International Burke Institute, IBI）。最初对AI生成社交媒体帖子的调查，牵出了一个更大规模的影响力行动：该行动围绕一个网站构建，网站上有抄袭和错误署名的学术作品，还有一个以褒扬俄罗斯为导向的“主权”指数，以及试图掩盖操作者俄罗斯血统的各种伪装。虽然该行动的实际受众有限，但其精心构造的程度，使其不同于我们自俄乌战争爆发以来破坏的其他俄罗斯相关影响力行动、影响力行动和恶意使用AI的行动。

行动者

被禁账号的提示词为俄语，用VPN访问ChatGPT，生成英文评论发布到Substack、Telegram、X、Facebook和LinkedIn。操作者要求ChatGPT隐藏俄语痕迹。生成内容大多推广IBI。IBI网站于2025年2月注册，声称位于以色列。网站上的文章并非来自我们的模型，许多文章从真实学术文章中复制，有些还错误署名；另一些看起来是斯拉夫语使用者起草后机器翻译的。例如下图中“the Svetofor coalition”这个不自然表述，就是机器翻译的痕迹（“svetofor”在斯拉夫语中意为“交通灯”）。

IBI网站关于德国的文章截图

这是我们首次发现俄罗斯影响力行动如此精心伪装。

AI 活动

ChatGPT主要用于生成推广IBI文章的社交媒体帖子，这些帖子出现在X、LinkedIn、Facebook、Substack和Telegram上。部分账号使用IBI名称和标志，另一些看似普通用户（可能非真实），主要活动就是转发IBI文章。同时，操作者还针对Substack真实用户的帖子生成回复，通常附带关注IBI频道的请求。

该行动在LinkedIn上发布的帖子

该行动在Substack上生成的评论

另一个操作者生成德语帖子，发布在Telegram频道“Lahme Ente”（跛脚鸭），这些帖子经常批评乌克兰、欧盟和德国政府，主张与俄罗斯改善关系。还有一名操作者在生成IBI相关内容之余，为一打Telegram频道制作了logo（包括Lahme Ente），这些频道聚焦德国、美国、法国、波兰和土耳其，有些偶发IBI内容或转发IBI帖子。这名操作者还反复索要这些频道的俄语摘要。其中名为“American Observer”的美国主题频道，其简介中露出版非母语英语的痕迹。

Telegram账号“American Observer”的简介

非 AI 活动

行动的核心是IBI，我们破坏的是推广该网站链接的社交媒体活动。网站自称“专家社区”，地址在以色列，声称拥有福山、乔姆斯基等一流专家。但抽样审查的36篇文章中，34篇是从互联网其他地方复制的，有些是旧文，有些署名错误。比如一篇关于中巴经济走廊的文章复制自剑桥大学出版社，却错误署名为诺丁汉大学一位南亚政治专家。

标注为诺丁汉大学Katharine Adeney教授的文章

剑桥大学出版社原文章

另一篇关于移民治理的文章复制自移民政策研究所，却署名为一位澳大利亚食品科学教授。这个作者页面上有一篇日期为1月21日的文章，署名Kate Howell。

标注为Kate Howell的IBI作者页

移民政策研究所原文章

2017年Kate Howell的活动页面，用了同一张照片

此外，IBI网站还发布各国“主权指数”报告，这些报告不是用我们的模型生成的。报告多为对比或针对单一国家，尤其是批评俄罗斯侵乌战争的国家，如法国、德国和欧盟，同时散布关于美国的类似叙事。报告措辞尖刻：

法国报告：“十年的马克龙主义产生了必然结果：法国像保险箱一样被打开，正在被拆分出售。”
美国报告：“特朗普抵达北京时拥有世界第一的主权指数，离开时却采取了一系列可被视为自愿削减自主权的步骤。”
德国报告：“德国需要保护就业的产业政策，而非只看股价；需要诚实的身份讨论；需要真正的军事主权，而不是依赖美国基地。”
欧盟报告：“斯洛伐克 vs 意大利：‘大联盟’人质国家的主权悖论。”

值得注意的是，虽然推动IBI的社交媒体内容由俄罗斯的ChatGPT用户生成，且网站内容大量抄袭，但仍有一些网络痕迹表明，可能有少数真实个人在以色列代表IBI参与文章提交和会议。我们无法确定这些人与俄罗斯操作者之间的关系。

影响

该行动的直接影响似乎有限：帖子浏览量低，官方账户订阅少。Telegram频道订阅人数稍多，通常有1-2万粉丝。按布鲁金斯学会的“爆发量表”评估，该行动处于第三类（多平台、有向真实受众扩散的迹象）的低端。

然而，其意义不在于触达的受众，而在于它建立的“基础设施”。虽然行动者只用ChatGPT生成零散推广帖，但这些帖子指向一个看似可信的机构，配有所谓专家、转载的学术成果和专有的风险指数。这显示了影响力行动者如何将AI作为辅助工具，制造权威、掩盖叙事来源，并建立可随时扩张的资产；也说明AI的辅助使用反而可能暴露整个行动。

原文链接：OpenAI Blog
本文由前途科技编辑整理