OpenAI 捣毁利用 ChatGPT 的柬埔寨诈骗网络

今年早些时候，我们捣毁了一个以柬埔寨为基地的诈骗网络，该网络利用 ChatGPT 支持投资、恋爱、赌博和冒充执法人员的诈骗活动。在收到 WhatsApp 同事的线索后，我们展开了调查，随后与行业伙伴和相关当局分享了更多威胁信号。

这一行动揭示了一个重要现实：有组织的犯罪网络很少局限于单一诈骗类型，而是会灵活组合各种叙事和手法。调查中，我们经常看到行为者在不同骗局间切换，或将多种诈骗技术结合。

部分用户还生成了与人口贩卖和强迫犯罪相关的内容。这与大量公开报道和描述一致——东南亚的有组织犯罪集团以招聘合法工作为名，将人困于债务奴役和胁迫体系中。虽然我们无法确认每个个体的具体情况，但这一案例提醒我们，实施诈骗的人本身也可能是剥削受害者。

作案者

该网络利用我们的模型创建虚假在线人设、生成和翻译发给目标的聊天内容、制作欺诈推广资料，并辅助日常运营。与之前的诈骗网络一样，部分用户也使用 ChatGPT 处理行政事务，如起草内部公告、翻译员工消息、记录招聘、移民身份、工作条件和员工纪律相关事宜。

行为

该网络同时运作多种骗局。例如，用交友人设建立信任，然后引荐虚假的加密货币和现货黄金投资；或冒充在线博彩平台发放虚假奖金；或假扮执法机构，要求目标“缴纳罚款”以了结严重罪行。

尽管叙事不同，但核心欺骗模式一致：他们创建假交友资料、虚构投资专家、伪造执法人设，并生成假护照、法律通知、股票确认单和博彩平台界面等图片。

• 诱饵：用 ChatGPT 在 WhatsApp、Telegram 翻译和生成对话，同时制作社交媒体内容，完善虚假人设。
• 陷阱：依靠情感施压和建立信任，比如承诺“稳赚不赔”、“无风险”，使用浪漫对话，要求保密，催促在“奖金过期”前行动。
• 收网：诱骗受害者存款解锁奖励、支付激活费、缴纳虚构罚款，并提交转账截图或账户信息作为凭证。

这是网络中的骗子用 ChatGPT 生成的假加密货币交易界面。

网络中的骗子用 AI 生成的虚假投资计划宣传图。

人口贩卖迹象

除诈骗外，一些用户还制作了与人口贩卖或强迫劳动相关的内容。例如，在社交媒体上为波贝（Poipet）的“聊天”岗位打广告，承诺提供机票、食宿、签证和工作许可。另有活动涉及对被扣押工人的管理：记录员工债务、工资扣款、纪律罚款和贷款偿还，并翻译关于移民身份、签证逾期和招聘激励的讨论。有些对话还提到拘留、逃跑企图，以及被贩运者的潜在刑事责任。这些内容与公开报道和描述相符。

这两张 AI 生成的图片是骗子在社交媒体上发布的柬埔寨“招聘”广告。OpenAI 已作打码处理。

影响

OpenAI 已封禁与该网络相关的 ChatGPT 账号，与行业伙伴和执法部门共享了威胁信息，并采取措施提高其再次访问产品的门槛。

该网络造成的经济损失尚不可知，但根据骗子自己的通信，他们可能与数百名目标有过接触，有对话提及个别受害者损失数千美元，但这些说法无法独立核实。

更广泛地说，此案印证了两个趋势：第一，有组织诈骗网络高度多元化，往往同时运作多种骗局；第二，网络欺诈、有组织犯罪和人口贩卖的边界日益模糊。因此，有效的打击不仅需要针对受害者面对的骗局，还要针对从中策划并获利的有组织犯罪集团。

---

原文链接：OpenAI Blog
本文由前途科技编辑整理