OpenAI周二宣布，已封禁一批据信与中国政府实体有关联的ChatGPT账户。此前，这些用户被发现寻求利用ChatGPT开发大规模监控工具，这标志着中美两国在人工智能（AI）军备竞赛中，紧张局势进一步升级。
这家总部位于旧金山的公司发布的一份威胁情报报告披露，被封禁的用户曾要求ChatGPT协助设计一份“高风险维吾尔族相关流入预警模型”的提案。该系统旨在通过分析交通预订和警方数据库，追踪被归类为“与维吾尔族相关且高风险”的个人活动。
政府监控工具瞄准社交媒体
另一名被封禁的用户则寻求ChatGPT协助设计一款社交媒体监控工具的宣传材料。该工具声称能够扫描包括X（原Twitter）、Facebook、Instagram、Reddit、TikTok和YouTube在内的多个平台，以识别其所称的“极端言论”以及政治、民族或宗教相关内容。尽管该用户声称此工具是为某政府客户开发，但OpenAI未能独立证实中国政府实体是否最终部署了此类系统。
OpenAI情报团队的首席研究员本·尼莫（Ben Nimmo）向记者表示，此次活动“难得地揭示了威权主义者和恶意行为者正如何开始将生成式AI融入其操作中”。该公司强调，这些被封禁的账户似乎是由个人用户操作，而非大规模的机构性行动。
AI滥用模式日益普遍
OpenAI还披露，已封禁了与俄语犯罪团伙关联的账户，这些团伙曾利用ChatGPT开发恶意软件，包括远程访问木马和凭证窃取器。自2024年2月开始公开威胁报告以来，该公司已瓦解了超过40个此类网络。不过，OpenAI表示“没有证据表明出现了新的战术，也未发现其模型为威胁行为者提供了新颖的攻击能力”。
中国驻华盛顿大使馆驳斥了这些指控，称其“毫无根据”，并表示北京正在建立一个“平衡发展与安全”的人工智能治理体系，并附有严格的数据安全规定。
这些披露正值OpenAI在上周通过二次股票出售实现了5000亿美元的估值之后，使其成为全球估值最高的初创公司，每周活跃ChatGPT用户超过8亿。
