开源大模型赋能安全团队应对威胁演变

2024 年 10 月 4 日 下午 2:14

开源大型语言模型 (LLM) 正在不断革新网络安全领域，成为推动创新浪潮的强大催化剂，帮助初创企业和老牌供应商加速产品上市时间。

从新一代生成式 AI 应用到先进的安全工具，这些模型正在成为基于生成式 AI 的网络安全未来的基石。在网络安全领域获得广泛应用的开源模型包括 Meta 的 LLaMA 2、LLaMA 3.2、技术创新研究院的 Falcon、Stability AI 的 StableLM 以及 Hugging Face 托管的模型，包括 BigScience 的 BLOOM。所有这些模型的采用率和使用率都在不断上升，这在很大程度上得益于它们更高的成本效益、灵活性以及透明度。

网络安全软件供应商正面临着与治理和许可相关的日益严峻的挑战，同时需要让其平台能够随着快速发展的开源 LLM 开发趋势而扩展。设计能够快速适应并利用最新开源 LLM 提供的最新功能的架构是一项艰巨的任务。

Seal Security 首席执行官兼联合创始人伊塔玛·谢尔最近与 VentureBeat（虚拟）进行了座谈，讨论了开源 LLM 在其运营中的基础性但不断演变的作用。“开源 LLM 使我们能够以封闭模型无法实现的方式扩展对开源组件的安全补丁，”他说。

快速扩展模型的能力对于像 Seal 这样的公司至关重要，它们使用开源组件来确保跨不同环境快速部署补丁。他补充说，“开源 LLM 使我们能够访问一个不断改进模型的社区，提供专有系统无法比拟的智能和速度。”

网络安全供应商长期以来一直依赖于将他们的应用程序、工具和平台专有化，以将客户锁定在特定解决方案中，尤其是在威胁检测和缓解领域。然而，VentureBeat 了解到，这种策略正在遭到强烈的抵制，这进一步加速了开源 LLM 的普及。

Gartner 的 2024 年开源软件炒作周期反映了开源 LLM 的日益突出地位，将其置于过高期望的顶峰。这种定位反映了 VentureBeat 听到的关于整个网络安全供应商领域和企业内部对开源 LLM 的兴趣和采用激增的趋势。

资料来源：Gartner, Inc. (2024 年 8 月 8 日)。2024 年开源软件炒作周期 (ID：G00811366)。Gartner, Inc.

炒作周期表明，开源 LLM 的成熟度仍在不断发展，市场渗透率在 5% 到 20% 之间。预计该技术的平台期将在未来 2 到 5 年内到来，这突出了其快速增长和在网络安全领域日益占据主导地位的趋势。

VentureBeat 看到越来越多的网络安全初创企业利用开源 LLM 的定制灵活性及其在平台、应用程序和工具策略中的可扩展性。一个广泛的用例是微调模型以满足特定领域的需要，从增强实时威胁检测到改进漏洞管理。

谢尔说：“通过集成开源 LLM，我们可以为特定威胁和用例定制模型，这使我们能够对不断变化的网络安全挑战保持敏捷和响应能力。”

开源 LLM 为网络安全系统开发和运营带来了诸多优势，包括：

定制、可扩展性和灵活性：推动网络安全公司采用开源 LLM 的主要驱动力之一是能够快速修改模型以适应特定用例。Seal Security 将 LLM 集成到其安全平台、应用程序、工具和服务产品中的做法说明了公司如何利用这些模型来简化跨开源组件的补丁管理流程。Gutsy 首席技术官兼联合创始人约翰·莫雷洛在最近接受 VentureBeat 采访时表示，谷歌的 BERT 开源语言模型的开源性质使 Gutsy 能够为特定的安全用例定制和训练其模型，同时保持隐私和效率。

社区协作：开源 LLM 得益于不断壮大的开发者社区，他们不断突破界限，每天都在扩展以解决复杂的网络安全挑战。这些社区在持续创新方面设定了快速步伐，使公司、开发者和大学能够从共享的见解和改进中受益。例如，Seal Security 已与 MITRE 的 CVE 编号机构 (CNA) 结成合作伙伴，以加强围绕开源漏洞的协作。

减少供应商锁定：开源模型为企业提供了一种避免供应商锁定的方法，使他们能够更好地控制成本并减少对专有系统的依赖。VentureBeat 看到这个问题正在成为网络安全未来的关键问题，灵活性是目标。快速响应威胁并对部署补丁采用一致的方法对于网络安全的未来至关重要。

然而，这些优势并非没有挑战。Gartner 在其研究中指出，开源 LLM 通常需要大量的基础设施投资，这可能会给缺乏资金充足且人员配备齐全的内部 IT 和安全团队的公司带来长期的运营挑战。

与开源模型相关的许可复杂性也会带来法律和合规风险。谢尔解释说，“开源模型为我们提供了透明度，但管理其生命周期并确保合规性仍然是一个主要问题。”

VentureBeat 看到网络安全供应商正在将开源 LLM 作为其平台的核心，通过改进威胁检测和响应来获得竞争优势。Seal Security 能够通过将其集成到其安全补丁系统中，利用开源模型进行实时检测和漏洞管理。谢尔表示：“我们的基础设施旨在根据威胁环境快速切换不同的 LLM，确保我们能够领先于新出现的漏洞。”

Gartner 预测，小型语言模型或边缘 LLM 将在网络安全主导的特定领域应用程序中得到更广泛的采用。边缘 LLM 本质上是分散在更靠近其需要分析的数据的地方，这使得它们能够更快地处理数据并进行实时威胁检测。

边缘 LLM 的设计需要更少的计算能力，这使得它们更容易管理且训练成本更低，非常适合需要实时速度和准确性的网络安全用例，例如物联网设备或远程系统。通过能够在边缘运行，这些 LLM 可以快速检测延迟至关重要的环境中的威胁，例如物联网设备或远程系统。

尽管开源 LLM 做出了越来越多的贡献，但它们也存在风险。一个重大问题是软件供应链攻击数量的增加。Gartner 的 2024 年开源软件炒作周期指出，开源组件已成为国家支持的攻击的目标。开源代码库中漏洞的平均年龄约为 2.8 年，因此公司必须实施并保持其补丁管理和治理系统的最新状态至关重要。

Seal Security 最近被指定为 CVE 编号机构 (CNA)，对于该供应商在降低供应链攻击风险方面发挥更重要的作用至关重要。该公司现在可以通过 CVE 计划识别、记录和分配漏洞，从而有助于提高整个行业开源代码的安全性。他们与 MITRE 的合作进一步增强了这种能力，使 Seal 能够与更广泛的网络安全社区分享发现。

正如谢尔强调的那样，这种合作有助于增强使用开源软件的每个人的安全性，加强了该公司对保护全球软件生态系统的承诺。

开源 LLM 正在通过减少来自专有技术和平台的传统锁定来重塑网络安全格局。VentureBeat 看到这些模型在可访问性、质量和速度方面快速发展，使其成为专有系统的可行替代方案。

对于像 Seal Security 这样的公司来说，未来在于不断发展其开源 LLM 功能，以领先于不断变化的威胁环境。“我们不断评估新的模型和基础设施，以确保我们能够为客户提供最佳的安全解决方案，”谢尔总结道。