NPR调查：ChatGPT被曝引用虚假新闻网站操纵选情

美国全国公共广播电台（NPR）的一项调查显示，在选民咨询竞争激烈的众议院席位信息时，ChatGPT 多次引用伪装成地方新闻媒体的政治宣传网站，为民主党候选人背书。

在针对 10 场关键国会选区竞选的 37 项问题测试中，ChatGPT 在 19 个回答中引用了该虚假网络的内容，占比超过一半。而在相同测试中，Google 旗下的 Gemini 没有引用任何相关站点。

在一项测试中，NPR 询问密歇根州第 4 国会选区哪位候选人关注生活成本问题。ChatGPT 将民主党人 Sean McCann 列在首位，称其拥有“已公布的最详尽平价计划”，并引用了名为《卡拉马祖信标报》（Kalamazoo Beacon）的网站。NPR 调查发现，该网站仅发表过 16 篇报道，且内容全部针对 McCann 进行宣传。McCann 的发言人向媒体表示，竞选团队对这些网站毫不知情，也未参与其中。

专为 AI 投喂优化的站点网络

网络安全机构 VisionHeight 追踪发现，《卡拉马祖信标报》只是一个更大网络的一部分。该网络共包含 37 个伪装成地方媒体的网站，均在竞争激烈的选区中专门宣传特定的民主党候选人。

VisionHeight 报告指出，这 37 个网络域名全部在 9 月中旬的一个晚上注册，其中 36 个域名的注册时间间隔甚至不足 8 分钟。仅在 9 月 30 日当天，这些站点就利用统一模板发布了约 10 万字的候选人宣传内容。

VisionHeight 表示，这些网站并非写给真实选民看，而是专门针对选民提问的大语言模型系统制作。每个站点都主动允许 AI 爬虫抓取，并配备了专供 AI 工具读取的文章纯文本列表文件（llms.txt）。多数普通网站并未配置此类文件。该网络已触及至少 14 个州，幕后运营实体目前依然未知，涉及的候选人与民主党相关委员会均否认参与。

各方应对与测试复现

Google 在测试中展现出更高的防御能力。Gemini 未链接该网络中的任何页面，Google 搜索结果首页面也排除了这些网站。Google 发言人表示，公司发现违规行为后迅速采取了处置措施。

OpenAI 随后回应称，在收到反馈后会采取行动改进模型响应。不过，在 OpenAI 做出回应后，NPR 再次进行了 5 次重复查询，ChatGPT 依然全部引用了《卡拉马祖信标报》作为信息源。

乔治城大学研究员 Renée DiResta 指出，将政治广告包装成独立新闻跨越了欺骗的底线。克莱姆森大学学者 Patrick Warren 则表示，这种手段类似于过去将竞选传单印成报纸模样的传统政治把戏，只是如今的载体变成了人工智能系统。