Anthropic将在Claude中接入权威选民信息

Anthropic 宣布，将在本月晚些时候的中期选举前，为旗下 AI 助手 Claude 接入来自非营利组织 Democracy Works 的官方投票数据。同时，公司推出了新型安全分类器并采取执行措施，防止有人利用该聊天机器人欺骗选民或开展舆论操控。

对话内直接提供投票解答

美国用户在 Claude.ai 询问投票地点或所需身份证件时，无需离开对话界面即可获取针对所在州的权威答复。这些信息由 Democracy Works 直接从各州和地方选举官员处收集。Claude 还将持续展示指向其无党派投票资源 TurboVote 的横幅；在选举当夜及随后的计票期间，界面还将展示最新官方计票结果。

Anthropic 分析了 9 月 21 日至 27 日期间的 25 万次美国用户对话，发现：

• 约 5.75% 涉及政治、公共政策或社会议题；
• 约 0.51% 明确与选举或投票相关；
• 征求投票建议的请求仅占约 0.01%；
• 违反选举诚信规则的请求约占 0.002%。

公司预计，随着选举日临近，相关咨询将持续上升。

部署防范复杂滥用的分类器

战略对话研究所（ISD）和麦凯恩研究所针对 Claude 在美国、以色列和巴西的防御能力进行了测试。测试显示，Claude 能够可靠拒绝单个恶意请求，但如果恶意活动被拆解为多个看似无害的子任务，则可能存在漏判风险。

为此，Anthropic 新增了针对多步骤滥用场景的分类器，例如批量创建虚假社交媒体账号、搭建假新闻网站或牟取选举利益的行为，并加强了对外国国家行为体的识别能力。

Anthropic 还披露了两起违规案例：一起为某境外虚假新闻团队利用 Claude 生成符合特定地缘政治立场的选举报道；另一起则是利用虚假新闻吸引美国受众以赚取广告分成。两起事件涉及的账户均已被封禁。

政策调整与偏见测试

Anthropic 更新了将于 11 月 12 日生效的《使用政策》，整合了针对欺骗性行动的规定，并将选举部分重命名为“不得破坏民主进程”。公司表示，其模型在内部政治中立测试中表现达到 99%，但外部评测机构仍发现部分场景存在不必要的免责声明和对特定立场的软化倾向。