Christen Kirchner 尽管机器学习的长期用户、反欺诈和身份验证专家正在期待人工智能的进步来解决问题并应对未来的挑战
任何人都可以告诉你，人工智能目前正在各个行业中盛行；从制造业到食品业，各个行业都在采取措施将其应用到他们的工作流程和运营中。
然而，有一个行业是最早采用人工智能的行业之一。反欺诈和身份识别部门主要来自金融行业，几十年来，该部门一直在使用机器学习 (ML) 来确保资金流向正确的地方。
然而，尽管它是早期采用者和长期用户，但这并不意味着它不会像人工智能那样发展。欺诈者正在适应。
“多年来，企业依靠基于规则的技术来发现欺诈活动，”SAS 欺诈与反洗钱高级解决方案专家 Christen Kirchner 解释道。
“然而，随着诈骗者不断调整其手段，为了使这些规则有效，它们需要不断更新和调整。”
欺诈和身份识别动态
人工智能使用多种技术来发现违规行为或任何可能显示欺诈活动或虚假身份的迹象。
使用的机器学习依赖于基于规则的欺诈检测方法和模型。这些方法和模型会分析关键交易细节以识别潜在的欺诈活动，收集过去欺诈案件的历史数据，并仔细审查各种元素，包括与交易相关的购买金额、设备 ID 和电子邮件地址。
他们还会考虑是否使用 VPN 来掩盖用户的实际 IP 地址，以及使用的浏览器类型以及是否以隐身模式运行。此外，这些系统还会考虑最近对相关帐户的失败登录尝试。
这些预测和自适应分析技术将大数据源与实时监控和风险状况分析相结合，以标记偏离既定合法用户行为模式的可疑交易。
然而，这种模式虽然使我们的金融体系维持了多年运转，但也存在挑战。
Mangopay 风险产品副总裁 Ariel Shoham 表示：“主要挑战之一是管理和分析大量非结构化数据。
千次欺诈造成的损失
“尽管数据量对于检测欺诈和发现新模式至关重要，但必须对这些数据进行筛选，以提高欺诈预防效率。不相关的数据可能导致不准确的预测，并可能增加误报的数量。”
这些防止欺诈的人工智能预测的准确性在很大程度上取决于数据是否被正确分类和标记。然而，这是一项费力且数据密集的任务。
对于能够将基础设施投入到系统和流程中的大型企业来说，这可能不是什么大问题。但在金融科技时代，小型挑战者初创公司现在正在提供一些大型供应商曾经提供的金融服务，这种改进和选择功能的过程对供应商来说可能是一个重大挑战。
同样，一些所使用的模型缺乏透明度，这意味着从这些人工智能系统所使用的决策中可以获取的可提取见解的数量是有限的。
“许多欺诈预防解决方案提供商部署的系统在提供结果时并没有明确的解释，”Ariel 解释道。“这使得他们的客户很难理解决策背后的逻辑。这种“黑箱”方法，流程不明确，很难利用人工智能的发现来帮助指导全局选择。”
其中一些问题虽然有局限性，但仍有助于实现欺诈检测和预防的更广泛目标。然而，随着攻击者不断采用新方法来利用系统，防御者需要利用人工智能的创新来解决这些问题
利用人工智能的攻击者
欺诈检测公司 Signicat 和咨询公司 Consult Hyperion 在 2024 年发布的一份报告显示，深度伪造现在占总欺诈行为的 6.5%，在过去三年中增长了 2137%。
目前，许多身份检查都是通过应用程序使用视频和语音密码进行的，这对于检查那些试图访问其帐户的人而言是一个重大挑战。
“欺诈检测的一个主要问题是，新的骗局不断出现，专业欺诈者总是在寻找新的方法来剥削消费者。有些人甚至使用生成式人工智能聊天机器人来制作更具说服力的电子邮件，”克里斯滕说。
然而，正如威胁在于人工智能的日益广泛使用，补救措施也同样如此。生成式人工智能 (Gen AI) 的进步可以帮助改进模型识别和检测这些欺诈行为的方式。
“通过精细的行为分析，生成式人工智能可以帮助企业更好、更详细地了解客户的正常行为，”Ariel 解释道。“通过创建深入的用户档案，企业可以更轻松地发现异常活动，这对于检测账户接管和身份盗窃案件非常有用。”
云 AI 也正在以惊人的速度发展，它可以帮助 LLM 更好地处理所掌握的信息，从而产生更好的结果。
“人工智能云数据分析正在铺平道路。法学硕士可以利用其自然语言理解和处理能力，根据最新数据帮助发现文本中的欺诈行为，”Christen 补充道。
结合人工智能使用和创建合成数据，可以使模型在缺乏真实数据的情况下具有更广泛的范围来检测已知的欺诈模式；节省处理非结构化数据的时间，从而更好地降低误报率并提高检测率。
打击欺诈
在急于实施人工智能的过程中，克里斯滕强调，欺诈预防方案中的人为因素不应该被忽视。
她解释道：“人工监督始终是这一过程的重要组成部分，特别是在评估异常情况时，通过多种方法结合使用，就可以发现和打击身份欺诈。”
但在寻求提升人工智能时，Ariel 认为，在威胁更难以察觉的时代，更加有针对性的人工智能方法将会产生更好的效果。
他提倡的这种方法的另外两个方面是来自客户数据的情报和欺诈情报，其中第一个方面是根据客户的特定数据定制每个人工智能模型。
他解释道：“随着系统从更多客户数据中学习，其检测欺诈的能力将随着时间的推移而提高，这对于训练初始机器学习模型起着重要作用。”
“为了进一步提高精度，模型应该定期进行再训练，以确保它们能够适应欺诈模式的变化。”
其次，通过像欺诈者一样思考，您可以为模型提供有关威胁所需的信息，以便正确识别它们。
谈到网络安全，Ariel 解释道：“人们可以使用暗网圈内共享的最新策略和工具相关信息来训练机器学习模型，以便在检测和预防欺诈方面保持领先一步。
“例如，一旦了解到欺诈者在所谓的银行业务过程中使用某些 RAT 窃取用户身份或使用可疑 VPN 隐藏其 IP 地址，您就可以训练模型识别流量中的特定工具和模式，从而只拒绝欺诈者，”Ariel 总结道。
虽然机器学习长期以来一直是该领域的基石，但人工智能技术的快速发展既为其提供了改进的机会，也为其带来了必须克服的挑战。Gen AI、基于云的分析和改进的 LLM 的整合提供了更复杂的工具来打击复杂的欺诈企图，但深度伪造和人工智能辅助诈骗的兴起凸显了不断适应的必要性。
因此，成功将取决于平衡最新的尖端人工智能与人类监督，采用将客户特定数据与欺诈情报相结合的定制方法，并不断改进人工智能模型以应对新出现的威胁。
要阅读杂志中的完整故事，请点击此处
******
请务必查看最新一期的《AI Magazine》 ，并订阅我们的全球会议系列 – Tech & AI LIVE 2024
******
AI Magazine 是BizClik旗下品牌
