OpenAI发布2026年选举安全保障措施

2026年将是生成式AI普及以来全球第二个重大选举年。OpenAI在2024年奠定的基础上，继续帮助世界各地的选举活动。

我们的重点是构建并负责任地部署突破性产品，以实现以下目标：

• 提供关于投票和结果的可靠信息
• 支持网络基础设施防御者
• 提高AI生成内容的透明度
• 打击恶意行为者的滥用
• 监控模型偏见，保持ChatGPT的政治中立

提供可靠信息

人们已经在用ChatGPT询问公民活动的实用问题，比如如何登记、去哪里投票、截止日期、新闻事件进展或官方选举结果。在2024年工作的基础上，我们与合作伙伴合作，将人们引导至可靠的投票信息来源。从今年秋季开始，在美国和巴西，OpenAI将在选举夜实时提供美联社的计票结果。在美国，我们还将与Democracy Works合作，在用户询问相关问题时，显示关于投票和登记流程的可靠信息，包括投票地点等选举后勤信息。在全球范围内，我们将继续优化网络搜索，呈现带有来源链接的有用信息。

自2024年以来，我们持续改进人们询问ChatGPT选举话题和突发新闻时获取的信息质量。ChatGPT可以搜索网络，提供带来源链接的更可靠答案，方便用户深入查阅。

支持网络基础设施防御者

当前对各行各业的网络防御者至关重要。我们认为AI在强化数字基础设施（包括选举支持系统）方面发挥着关键作用。OpenAI致力于构建全栈韧性，包括支持选举执行的方式。

我们最近发布了Daybreak，旨在改变软件构建和防御的方式。Daybreak包含多项计划，旨在使软件更安全、更有韧性，包括Codex Security，它能自动识别、验证并帮助修复开发者代码中的漏洞。更高级的防御方面，我们的可信网络防御访问（TAC）计划向经过验证的个人提供前沿模型用于网络防御。我们已向美国注册投票系统制造商提供Codex Security和TAC访问权限，并与全美州务卿协会（NASS）和全美州选举主任协会（NASED）接洽，确保州选举机构了解最新网络能力及我们的防御工具。

提高透明度

越来越多的人使用AI工具创建内容并分享到社交媒体、即时通讯和网络。为帮助打击误导性的“深度伪造”，我们正在投资多层内容溯源方法，使人们能够验证所看到的AI生成或修改内容。

上周，我们宣布了将SynthID数字水印引入通过ChatGPT、Codex或OpenAI API生成的图像。这基于我们持续使用C2PA（内容来源与真实性联盟）标准的承诺，该标准使用元数据和加密签名，使图像的信息随内容本身安全传播。这两种方法互补：SynthID嵌入不可见的水印层，可通过截图等变换保持效果；而元数据可提供比水印更多的信息。

我们还预览了一个公开验证工具，让用户检查在平台外看到的图像是否由OpenAI工具生成。该网站可检测是否存在来自OpenAI的SynthID水印，并在发现时显示C2PA元数据。

溯源工具并非解决选举欺骗的完整方案，但它们是更广泛诚信框架的重要组成部分。由于大多数人是在社交媒体和即时通讯平台上接触AI内容，我们乐于与社交媒体公司合作，考虑将溯源标记作为相关信号，决定在信息流中推荐和分发哪些公民内容，以保护选举。

我们支持推动透明度的立法：

• 《保护选举免受欺骗性AI法案》（S. 1213）将增加新禁令，禁止在联邦选举活动中有意分发涉及联邦候选人的实质性欺骗性AI生成内容。
• 《为选举管理者准备AI法案》（S. 2346）将要求选举援助委员会发布报告，为选举办公室提供关于AI技术在选举管理中的使用和风险的自愿指南。鉴于前沿模型增强的网络能力，这些指南尤为重要。

打击滥用

OpenAI将继续尽己所能打击选举干预。我们执行使用政策，禁止用户将我们的工具用于选举干预、打击参与或欺骗性AI内容来源。

自2024年以来，我们的检测和执行系统持续改进。我们监控并执行政策，配有隐私保护措施和清晰的审查流程。当有人试图使用我们的工具干预选举过程、阻止参与或误导人们AI内容的来源时，包括作为协调欺骗活动的一部分，我们将采取行动。发现滥用时，我们采取执行措施，包括限制或终止服务访问。

我们的情报与调查、安全、安保和诚信团队负责检测滥用模式，并调查使用我们的工具进行欺骗性或选举相关滥用的企图，包括隐蔽的影响行动。自2024年2月以来，我们已定期发布报告分享我们的发现，并将继续这样做。

在公众、政策制定者、竞选活动和企业共同制定AI在政治中使用规范的同时，我们继续禁止使用我们的产品创建或分发针对候选人、政党或选票提案的大规模竞选信息。但我们认为政治竞选应该能够使用我们的工具进行负责任、由人指导的工作，例如起草内部简报、规划、日常写作、翻译、合规和行政任务。这些用例在我们的使用政策下是允许的。

AI工具为人们提供了新的参与方式，通过跨越语言、教育水平和背景，扩大和深化公民社区。我们认为人们能够使用AI系统学习、探索和讨论政治问题很重要，我们将继续支持这一点，同时避免恶意行为者的滥用。

与我们禁止将服务用于大规模竞选宣传的规定一致，我们本周期不允许广告商在我们的平台上投放政治广告。更多关于我们在ChatGPT上广告策略的信息。

监控模型中的政治偏见

我们知道人们使用ChatGPT不仅仅是为了选举后勤。他们用ChatGPT探索想法、测试论点、更深入了解关心的问题。因此我们致力于消除ChatGPT回答问题时可能存在的政治偏见。

我们的模型规范原则“共同寻求真相”概述了我们的承诺：默认保持ChatGPT客观，由用户控制，包括当用户进行政治对话时。ChatGPT是让人们参与伟大思想、发展自己观点的工具。因此模型设计上避免操纵用户或隐藏相关事实或观点以引导用户走向特定方向。去年秋天，我们发布了新的政治偏见评估方法，用于测试模型保持客观的能力。这一重要工作使OpenAI在评估模型如何回应政治话题的政治偏见评估领域成为领导者。

学习并尽我们的一份力

我们将继续与合作伙伴学习，更新我们的安全措施，并不断适应。我们的目标是支持人们自由参与选举并做出自己的决定——提供可靠信息、透明度和有效的保障措施。我们期待深化支持用户、公民社会和选民的方式，帮助他们参与今年的选举及未来选举。

---

原文链接：OpenAI Blog
本文由前途科技编辑整理