Zscaler ThreatLabz 研究强调需要更好的数据安全性,企业需要通过采用零信任计划来确保生成式人工智能 (Gen AI) 转型虽然企业获得人工智能投资的回报,但 Zscaler 敦促谨慎实施更好的网络安全和零信任计划,以保持数据安全
人工智能工具和大型语言模型 (LLM) 在全球商业领域继续受到关注,但网络安全担忧依然存在。
该技术继续成功融入公司运营,人工智能和机器学习 (AI/ML) 的使用比去年猛增近 600%。然而,Zscaler 的 2024 年人工智能安全报告发现,这种快速增长使企业面临风险,这表明保护人工智能/机器学习应用程序安全的挑战仍未解决。
Zscaler ThreatLabz 研究强调需要更好的数据安全性,企业需要通过采用零信任计划来确保生成式人工智能 (Gen AI) 转型的安全。然后,这些可以用来防御新的人工智能驱动的威胁环境。
平衡人工智能创新与网络安全
整个 2023 年,随着网络威胁和勒索软件攻击激增,网络安全形势持续发展,影响了重要的业务和服务。更重要的是,威胁行为者变得比以往任何时候都更加复杂,他们利用敏感数据谋取私利。
2024 年初的研究发现,虽然大多数企业领导者对人工智能将提高工作效率持乐观态度,但四分之三的人担心该技术将被用于网络攻击。
人工智能已经在商业运营中得到了很好的巩固,Zscaler 的报告反映了人工智能交易的急剧增长。从 2023 年 4 月到 2024 年 1 月,ThreatLabz 的零信任交换平台上的 AI/ML 交易量每月增加到超过 30 亿笔。 Zscaler 表示,尽管安全风险不断增加,数据保护事件不断增加,但企业仍在大量采用人工智能工具。
报告还发现,Open AI 的 ChatGPT 仍然是最受欢迎的 Gen AI 应用程序,占所有企业 AI 交易的一半以上 (52%)。
美国人工智能市场持续繁荣
由于世界各地的法规和技术基础设施等关键因素不同,人工智能的采用在全球范围内有所不同。 Zscaler 指出,美国 (US) 的商业人工智能交易比例最高,达到 40%。印度以 16% 位居第二,该国继续加速其数字化转型战略。
图片:Zscaler
同样,ThreatLabz 发现,与欧洲、中东和非洲地区相比,亚太地区的企业人工智能交易量增加了 135%。该团队将这一激增归因于印度在整个科技行业开展业务时广泛使用和采用人工智能工具,这表明科技工作更加集中,采用新创新的意愿更强,使用障碍更少。
随着人工智能的力量在各行各业中不断进步,它已成为 Zscaler 所说的一把双刃剑。虽然人工智能在创新和效率方面提供了巨大的潜力,但它也带来了组织必须应对的一系列新风险。
企业内部使用 Gen AI 会带来重大风险,包括:
- 知识产权和非公开信息的保护:数据泄露的风险
- 人工智能应用数据隐私和安全风险:包括扩大的攻击面、新的威胁传递载体和增加的供应链风险
- 数据质量问题:“垃圾输入,垃圾输出”的概念和潜在的数据中毒
与人工智能相关的网络安全威胁是无限的,因为网络犯罪分子可以利用人工智能来规划和执行网络钓鱼和恶意软件活动,利用整个企业的漏洞。
为了应对这一挑战,Zscaler 呼吁企业和网络安全领导者充分利用人工智能的潜力,同时保持谨慎并降低针对人工智能攻击的风险。
**********
请务必查看最新一期的AI 杂志,并报名参加我们的全球会议系列 – Tech & AI LIVE 2024
**********
AI 杂志是BizClik旗下品牌