Credo AI集成中心助力企业自动化AI治理

订阅我们的每日和每周新闻简报，获取有关行业领先人工智能报道的最新更新和独家内容。了解更多

人工智能治理公司 Credo AI 推出了一个新平台，该平台与第三方 AI 运维和业务工具集成，以更好地了解负责任的人工智能政策。

Credo AI 的集成中心现已全面上市，允许企业客户将他们构建生成式人工智能应用程序的平台（如 Amazon Sagemaker、MLFlow 和 Microsoft Dynamics 365）连接到一个集中的治理平台。这些应用程序通常部署的平台（如 Asana、ServiceNow 或 Jira）也可以添加到集成中心。

其理念是，从事人工智能应用程序开发的企业可以使用集成中心连接到像 Credo AI 治理平台这样的中央治理平台。无需上传证明安全和安全标准的文档，集成中心将从包含这些指标的应用程序中收集元数据。

Credo AI 表示，集成中心将直接与现有的模型存储连接，然后自动上传到治理平台以进行合规性检查。该中心还将引入用于治理目的的数据集。

Credo AI 创始人兼首席执行官 Navrina Singh 告诉 VentureBeat，集成中心旨在使人工智能治理（无论是遵循数据披露规则还是围绕人工智能使用的内部政策）从一开始就成为开发过程的一部分。

“我们合作的所有组织，主要是全球 2000 强企业，都在以非常快的速度采用人工智能，并引入了新型的人工智能工具，”Singh 说。“当我们考察所有企业时，我们想要为他们实现的一项关键目标是，最大限度地发挥他们人工智能投资的价值，并使治理变得非常容易，这样他们就不会再以难以实施为借口。”

Credo AI 的集成中心将包括与 Jira、ServiceNow、亚马逊的 SageMaker 和 Bedrock、Salesforce、MLFlow、Asana、Databricks、Microsoft Dynamics 365 和 Azure 机器学习、Weights & Biases、Hugging Face 和 Collibra 的即时连接。任何额外的集成都可以以额外费用定制。

调查表明，负责任的人工智能和人工智能治理（通常会关注应用程序如何满足任何法规、道德考量和隐私检查）已成为许多公司的首要任务。然而，这些相同的调查也指出，很少有公司评估了这些风险。

随着企业努力在生成式人工智能方面更加负责任，为组织提供轻松识别风险和合规性问题的方法已成为许多公司的新的利基市场。Credo AI 只是众多提供不同途径来轻松访问负责任的人工智能的公司之一。

IBM 的 Watsonx 产品套件包括一个治理平台，允许用户评估模型的准确性、偏差和合规性。Collibra 还发布了一套围绕治理的人工智能工具，用于创建工作流程来记录和监控人工智能程序。

Credo AI 确实会检查应用程序是否存在潜在的品牌风险，例如准确性。尽管如此，它将自己的平台定位为满足围绕自动化平台的现行法律以及可能出台的任何潜在新法规的手段。

围绕生成式人工智能的法规仍然很少，尽管一直存在着管理数据隐私和数据保留的政策，由于机器学习或数据规则，一些企业可能已经遵循了这些政策。

Singh 表示，有些地区确实要求企业提供有关人工智能治理的报告。她提到了纽约市第 144 号法案，该法案禁止使用自动化工具进行就业决策。

“您必须收集某些技术证据，例如称为人口统计奇偶校验比率的指标。Credo AI 采用纽约市法律并将其编纂，以检查您的 AI 运维系统，并且由于它与您的政策以及您构建人力资源系统的平台相连，因此我们可以收集这些元数据以满足法律要求，”Singh 说。