微软报告：黑客已全面武装AI，攻击效率倍增

微软本周发布的威胁情报报告显示，黑客正越来越多地将人工智能整合到其操作的每个阶段，从侦察和钓鱼到恶意软件开发和入侵后活动。该公司将AI描述为一种“力量倍增器”，它降低了技术门槛，并为各种技能水平的攻击者加快了执行速度。

朝鲜黑客组织利用AI发动精密诈骗

该报告详细描述了被追踪为Jasper Sleet和Coral Sleet的朝鲜威胁组织如何利用生成式AI实施针对西方公司的复杂虚假就业诈骗。据CyberScoop报道，Jasper Sleet行动者使用AI工具生成符合文化背景的姓名列表，针对特定职位定制虚假简历，并撰写专业沟通内容以在入职后维持长期雇佣关系。cyberscoop

微软观察到Jasper Sleet使用AI应用程序Faceswap将朝鲜IT工作人员的面孔插入到被盗的身份文件中，并为简历制作精美的头像照片。据The Guardian报道，该组织还在虚拟面试中部署了变声技术来掩饰口音，使特工能够冒充西方求职者。

微软表示：“Jasper Sleet在整个攻击过程中都使用AI来获得雇佣、维持雇佣关系，并大规模利用访问权限。”The Guardian

与此同时，Coral Sleet展现出了微软所称的“由AI辅助迭代开发驱动的快速能力增长”，使用AI编码工具生成和完善恶意软件组件，创建虚假公司网站，配置远程基础设施，并快速测试有效载荷。据微软博客文章称，该组织还对大型语言模型进行了越狱破解，以生成绕过内置安全控制的恶意代码。Joe Pearce's Home Page

日益增长的行业趋势

微软指出，威胁行为者已开始对代理式AI进行早期实验，这种模型支持迭代决策和任务执行，但尚未观察到大规模应用。Joe Pearce's Home Page

这些发现与其他主要科技公司的类似警告相呼应。谷歌在2月报告称，其威胁情报小组已观察到威胁行为者使用AI收集信息、创建钓鱼活动和开发恶意软件。亚马逊则单独记录了一起案件，其中一名讲俄语的黑客使用生成式AI服务在五周内攻破了55个国家的600多个FortiGate防火墙，这表明AI如何使技能有限的攻击者能够以之前需要更大规模、更强能力团队才能达到的规模开展行动。

微软建议组织将AI驱动的IT工作者计划视为内部风险，并专注于检测异常凭证使用、加固身份系统以防范钓鱼攻击，以及保护可能本身成为攻击目标的AI系统。Joe Pearce's Home Page