随着生成式人工智能（AI）技术的迅猛发展，AI带来的风险也日益凸显，引发了全球企业和网络安全专家的高度关注。尽管AI自动化在网络安全领域带来了显著效益，但许多专家认为，AI无法完全取代人类的直觉和创造力，人类智慧仍然是维护数据安全的核心力量。
生成式AI正在逐步渗透到各行各业，但随之而来的风险也日益增加，令许多企业感到担忧。2023年，超过一半的《财富》500强企业将AI风险列为首要关注事项。专家指出，AI驱动的网络攻击手段日益复杂，企业数据和系统的安全性面临前所未有的挑战。
面对AI带来的潜在威胁，不少网络安全专家建议使用更先进的AI技术来抵御AI驱动的攻击。然而，知名安全公司HackerOne发布的报告指出，仅靠AI防御仍然不足，人类专业知识在网络安全中依然不可或缺。HackerOne首席信息安全官Chris Evans强调：“再先进的自动化技术也无法取代人类智慧的创造力和判断力。”
HackerOne的报告基于2023年6月至2024年8月期间的数据，分析了全球500位安全领导者的意见以及超过50万份漏洞报告，并从中总结出一个显著趋势：最有效的防御策略在于结合人类和AI技术。报告显示，超过三分之二的安全专家认为，对AI实施进行外部且无偏见的审查，是减少AI风险的有效途径。此举不仅能增强系统的安全性，也使企业在面对AI威胁时能更具韧性。
尽管AI技术在风险管理方面表现出色，可显著缩短事件检测和遏制的时间，平均为企业每次安全事件节省220万美元，但专家警告过度依赖AI仍然存在隐患。根据报告数据，目前有20%的安全研究人员将AI视为不可或缺的工具，这一比例较2023年的14%有所增加。然而，专家提醒，过度依赖AI技术可能会让企业忽视人类专业知识的重要性，导致风险增高。
