Google DeepMind联合新加坡推出端侧反诈AI

在新加坡，诈骗案件已占到警方立案犯罪总数的一半以上，自2019年以来造成的经济损失超过40亿新元。与此同时，诈骗手段正从简单的钓鱼链接转向高度复杂的“社交工程”欺诈——攻击者通过多轮极具说服力的对话诱导受害者，再伺机骗取资金。这类诈骗手法已占据全部诈骗损失的80%。

针对这一严峻挑战，Google DeepMind与新加坡政府科技局（GovTech）在双方国家级AI合作伙伴关系框架下展开合作，推出了一款专门针对新加坡主流智能手机优化的端侧诈骗检测模型，在保障公民隐私的同时筑牢安全防线。

本地端侧运行：兼顾反诈与端到端加密隐私

通用大语言模型往往难以应对带有鲜明本土特征的欺诈话术。为此，研发团队采用Google DeepMind的轻量级开源模型Gemma，针对新加坡本地的诈骗对话样本进行了微调（Fine-tuning）。微调数据涵盖冒充政府机构、银行人员、本地公众人物，以及各类流行区域骗局的话术，使模型能够精准区分正常的社交闲聊与恶意的心理操纵。

更关键的是，该模型的全部推理（Inference）流程均在用户手机端侧完成。传统的网络威胁检测主要依赖云端服务器扫描消息内容，但现代即时通讯工具多采用端到端加密技术，平台方无法查看加密内容。端侧方案直接解决了这一矛盾：数据无需上传云端，手机本地即可高速分析对话模式、捕捉操控意图，让用户在泄露财务信息或敏感凭证之前收到拦截提醒。

新加坡政府科技局信任与安全总监 Mark Chen 表示：“打击诈骗不应以牺牲个人隐私为代价。通过与 Google DeepMind 合作，我们将先进的 AI 防护直接部署到公民设备上，不仅能实时拦截针对性极强的本地诈骗，还彻底保障了私人通信的安全。”

技术实现：两阶段流水线兼顾效率与功耗

当模型在本地检测到具有操纵倾向的对话特征时，会直接在设备屏幕上弹出实时风险警示，提醒用户暂停转账或谨慎提供个人信息。

在智能手机上运行复杂的欺诈分类模型，电池续航与计算开销是最大的工程瓶颈。为了平衡检测精度与功耗，团队设计了两阶段筛选流水线（Two-stage Pipeline）：

• 第一阶段（轻量快速筛选）：由一个超轻量分类器常驻设备端，以极低功耗对所有传入消息进行初步初筛，快速过滤绝大部分正常文本，仅标记出潜在风险片段。
• 第二阶段（多轮上下文研判）：一旦触发可疑标记，系统调用微调后的 Gemma 模型对多轮对话的上下文切片进行深入语义理解，最终确定是否发出诈骗告警，或作为误报直接放行。

严格的数据安全治理

该研究成果在2026年新加坡国际网络周（SICW 2026）上正式发布。整套方案确立了在端到端加密环境下保护用户的行业参考标准，并在研发全流程遵循极高的数据安全标准：

1. 主权沙盒隔离：模型微调完全在新加坡政府科技局托管的 Google Cloud Platform（GCP）隔离环境中完成，训练数据严禁外流。
2. 杜绝个人隐私数据：训练素材严格排除了公民的私人或可识别身份信息（PII），完全采用脱敏的诈骗举报记录与威胁情报语料。
3. 多维压力测试：模型经过合成对话与本地复杂语料的大规模对抗测试，全面覆盖各类仿冒身份与新型诈骗话术。

这一项目展示了即时通讯软件与移动操作系统如何直接集成轻量化大语言模型，在不触碰任何用户明文数据的前提下，实现设备本地的实时安全护航。