订阅我们的每日和每周新闻通讯，获取有关行业领先的 AI 报道的最新更新和独家内容。了解更多
ServiceNow 的旗舰产品 Now 平台长期以来一直是企业 IT 运营的基石。
近年来，该公司通过引入企业 AI 功能（包括 Now Assist）来扩展其能力。作为企业用来实际运行其运营的平台，高度的信心绝对至关重要。特别是对于生成式 AI，企业对安全性和潜在幻觉的担忧一直存在。
今天，该公司宣布了一系列针对其旗舰产品 Now 平台的新治理功能，旨在帮助提高企业 AI 使用的信心。这些新的治理功能解决了企业 AI 采用中日益增长的挑战：实验与全面生产部署之间的差距。
这些治理组件包括 Now Assist Guardian、Now Assist Data Kit 和 Now Assist Analytics。这些新工具帮助组织管理其整个企业的 AI 部署。随着公司从概念验证阶段过渡到全面生产环境，这些工具至关重要。
“去年，总体而言，这更多的是一种实验方法，而今年则变得更加现实，”ServiceNow AI 产品副总裁 Jeremy Barnes 告诉 VentureBeat。“人们正在部署 AI 来解决与他们的顶线或底线相关的某些问题。”
在企业中，治理和合规性是至关重要的运营。
ServiceNow 平台认识到不同企业利益相关者之间通常复杂的关系。
“通常，我们的客户会将治理和合规性放在与定义和拥有生成式 AI 经济效益的组织不同的组织中，”Barnes 说。
这通常意味着在大多数组织中，一个团队可以将概念验证整合在一起以尝试生成式 AI。在那个阶段，与在整个企业中全面生产部署中推出应用程序或服务时相比，没有相同的约束。不可避免地，企业内部的治理团队会告诉开发团队，他们不能在首先确保符合组织政策的情况下部署任何东西。Barnes 说，结果往往是，生成式 AI 工作在概念验证和生产之间徘徊了很长时间。
他指出，新的 AI 治理更新通过提供满足业务和合规性要求的工具和可见性来弥合这种差距。
“AI 治理不仅仅是关于研究模型，”Barnes 评论道。
他解释说，这关乎拥有一个包含 AI 组件和传统工作流程的系统。这关乎理解并能够确保系统符合企业期望的预期结果。治理还关乎了解何时出现问题以及提供管理情况的能力。
现在需要更多 AI 治理的原因之一是，代理 AI 正在开始部署。
包括 ServiceNow 在内的许多组织正在部署代理框架，为 AI 提供更多自主能力。Barnes 指出，随着更多自主 AI 代理的出现，对强大的治理、控制和人工监督的需求越来越大，以确保系统按预期运行并在可接受的参数范围内。
ServiceNow 提供的治理工具和工作流程旨在帮助企业管理风险并保持对这些更自主的 AI 系统的必要控制水平。
企业采用的主要挑战是幻觉的风险。治理本身并不是解决该挑战的答案，但它是所需解决方案的一个组成部分。
幻觉是整个行业的担忧，它以某种方式影响着所有生成式 AI 模型。ServiceNow 正在采取多层方法来减轻幻觉。该方法包括微调语言模型，使其更专注于提取信息而不是生成新信息。
治理是帮助减轻风险的另一个关键方面。新的 Now Assist Analysis Guardian 工具现在还将提供额外的保护层，以防止幻觉，分析 AI 输出。Barnes 说，ServiceNow 的一个关键目标是确保幻觉不会成为企业 AI 部署的“绊脚石”，而是将其视为可以通过平台中的工具解决的风险。
配置管理数据库 (CMDB) 是 IT 运营管理的基石。CMDB 系统管理整个企业使用的系统、软件和配置的清单。
作为 ServiceNow 今天更新的一部分，还推出了新的 Now Assist for CMDB 功能，它带来了 AI 的强大功能。Barnes 解释说，新功能不会直接解决 CMDB 的填充或发现问题，这通常通过其他方式完成，而是专注于提高与 CMDB 数据交互的用户的工作效率。
CMDB 分析功能是 ServiceNow 更广泛战略的一部分，该战略旨在为其客户组织中的不同角色提供 AI 驱动的生产力增强功能。CMDB 分析功能与 AI 治理框架集成，确保此 AI 驱动的工具的部署和使用受相同的治理流程和控制约束。这有助于解决 IT 运营团队在关键系统和数据中部署基于 AI 的工具时可能遇到的信任和运营限制。
“您越依赖 AI 工具，就越需要确保它对您正在做的事情是值得信赖的，”Barnes 说。
