谷歌报告：国家黑客利用AI加速网络攻击

国家黑客正利用先进工具加速网络攻击，伊朗、朝鲜、中国和俄罗斯的威胁行为者使用谷歌的Gemini等大语言模型来推进其活动。根据谷歌威胁情报小组（GTIG）的最新报告，他们能制作复杂的钓鱼活动和开发恶意软件。

今日发布的季度AI威胁追踪报告揭示了政府支持的攻击者如何在攻击生命周期中使用人工智能，包括侦察、社会工程和恶意软件开发。GTIG在2025年第四季度的工作使这些活动变得明显。

“对于政府支持的威胁行为者，大语言模型已成为技术研究、目标定位和快速生成精细钓鱼诱饵的重要工具，”GTIG研究人员在报告中表示。

国家黑客的侦察活动针对国防部门

据报道，伊朗威胁行为者APT42使用Gemini增强其侦察和针对性社会工程操作。该组织利用AI为特定实体创建看似官方的电子邮件地址，然后进行研究以建立接近目标的可信借口。

APT42设计了角色和场景，旨在更好地吸引目标，进行语言翻译并部署自然、地道的短语，帮助绕过传统钓鱼的红旗标志，如语法错误或笨拙的句法。

朝鲜政府支持的行为者UNC2970专注于国防目标和冒充企业招聘人员，使用Gemini帮助分析高价值目标。该组织的侦察包括搜索主要网络安全和国防公司的信息、映射特定技术职位角色以及收集薪资信息。

“这种活动模糊了常规专业研究和恶意侦察之间的区别，因为行为者收集必要组件以创建定制、高保真的钓鱼角色，”GTIG指出。

模型提取攻击激增

除了操作滥用，谷歌DeepMind和GTIG发现模型提取尝试增加，也称为“蒸馏攻击”，旨在从AI模型中窃取知识产权。

一项针对Gemini推理能力的活动涉及整理和使用超过10万个提示，旨在迫使模型输出推理过程。问题的广度表明试图在各种任务中复制Gemini在非英语目标语言中的推理能力。

尽管GTIG未观察到高级持续性威胁行为者对前沿模型的直接攻击，但团队识别并中断了来自全球私营部门实体和试图克隆专有逻辑的研究人员的频繁模型提取攻击。

谷歌的系统实时识别这些攻击并部署防御以保护内部推理痕迹。

集成AI的恶意软件出现

GTIG观察到恶意软件样本，追踪为HONESTCUE，使用Gemini的API外包功能生成。该恶意软件旨在通过多层混淆方法破坏传统的基于网络的检测和静态分析。

HONESTCUE作为下载器和启动器框架运行，通过Gemini的API发送提示并接收C#源代码作为响应。无文件的第二阶段直接在内存中编译和执行有效载荷，不在磁盘上留下痕迹。

另外，GTIG识别了COINBAIT，一个钓鱼工具包，其构建可能由AI代码生成工具加速。该工具包伪装成主要加密货币交易所以收集凭证，使用AI驱动的平台Lovable AI构建。

ClickFix活动滥用AI聊天平台

在2025年12月首次观察到的新型社会工程活动中，谷歌看到威胁行为者滥用生成式AI服务的公共分享功能，包括Gemini、ChatGPT、Copilot、DeepSeek和Grok，以托管分发针对macOS系统的ATOMIC恶意软件的欺骗性内容。

攻击者操纵AI模型为常见计算机任务创建看似真实的指令，嵌入恶意命令行脚本作为“解决方案”。通过创建这些AI聊天记录的共享链接，威胁行为者使用受信任的域名托管其初始攻击阶段。

地下市场因被盗API密钥而繁荣

GTIG对英语和俄语地下论坛的观察表明，对AI赋能工具和服务的需求持续存在。然而，国家黑客和网络犯罪分子难以开发定制AI模型，转而依赖通过被盗凭证访问的成熟商业产品。

一个名为“Xanthorox”的工具包自称是用于自主恶意软件生成和钓鱼活动开发的定制AI。GTIG的调查显示，Xanthorox并非定制模型，而是由多个商业AI产品驱动，包括通过被盗API密钥访问的Gemini。

谷歌的响应和缓解措施

谷歌已对识别的威胁行为者采取行动，禁用与恶意活动相关的账户和资产。公司还应用情报加强分类器和模型，让它们在未来拒绝类似攻击的协助。

“我们致力于大胆且负责任地开发AI，这意味着采取主动步骤破坏恶意活动，禁用与不良行为者相关的项目和账户，同时持续改进我们的模型以减少被滥用的可能性，”报告称。

GTIG强调，尽管有这些发展，没有APT或信息操作行为者获得突破性能力，从根本上改变威胁格局。

这些发现突显了AI在网络安全中不断演变的角色，防御者和攻击者都在竞相利用该技术的能力。

对于企业安全团队，特别是在中国和朝鲜国家黑客仍活跃的亚太地区，该报告是一个重要提醒，以增强对AI增强的社会工程和侦察操作的防御。