加入我们的每日和每周通讯,获取有关行业领先的 AI 报道的最新更新和独家内容。了解更多
近年来,DataStax 一直在稳步扩展其数据平台,以满足企业 AI 开发人员不断增长的需求。
今天,该公司发布了 DataStax AI 平台,该平台由 Nvidia AI 构建,迈出了下一步。新平台集成了 DataStax 现有的数据库技术,包括用于云原生部署的 DataStax Astra 和用于自管理部署的 DataStax 超融合数据库 (HCD)。它还包括该公司的 Langflow 技术,该技术用于帮助构建代理 AI 工作流程。Nvidia 企业 AI 组件包括有助于加速和改进组织快速构建和部署模型的能力的技术。堆栈中的 Nvidia 企业组件包括 NeMo Retriever、NeMo Guardrails 和 NIM Agent Blueprints。
据 DataStax 称,新平台可以将 AI 开发时间缩短 60%,并将 AI 工作负载处理速度提高到当前解决方案的 19 倍。
“生产时间是我们讨论的事情之一,构建这些东西需要大量时间,”DataStax 首席产品官 Ed Anuff 告诉 VentureBeat。“我们看到的是,很多人都陷入了开发地狱。”
Langflow 是 DataStax 的可视化 AI 编排工具,在新 AI 平台中发挥着至关重要的作用。
Langflow 允许开发人员通过将组件拖放到画布上以可视化方式构建 AI 工作流程。这些组件代表了各种 DataStax 和 Nvidia 功能,包括数据源、AI 模型和处理步骤。这种可视化方法极大地简化了构建复杂 AI 应用程序的过程。
“Langflow 使我们能够将所有 DataStax 功能和 API 以及所有 Nvidia 组件和微服务作为可以连接在一起并以交互方式运行的可视化组件,”Anuff 说。
Langflow 也是使代理 AI 能够进入新 DataStax 平台的关键技术。据 Anuff 称,该平台促进了三种主要类型的代理的开发:
面向任务的代理:这些代理可以代表用户执行特定任务。例如,在旅行应用程序中,代理可以根据用户偏好组装一个度假套餐。
自动化代理:这些代理在幕后运行,处理任务而无需直接与用户交互。它们通常涉及 API 与其他 API 和代理通信,以促进复杂自动化工作流程。
多代理系统:这种方法涉及将复杂的任务分解为由专门代理处理的子任务。
据 Anuff 称,Nvidia 功能与 DataStax 的数据和 Langflow 的结合将以多种方式帮助企业 AI 用户。
他解释说,Nvidia 集成将允许企业用户通过标准化的 NIM 微服务架构更轻松地调用自定义语言模型和嵌入。通过使用 Nvidia 的微服务,用户还可以利用 Nvidia 的硬件和软件功能来高效地运行这些模型。
护栏支持是另一个关键的补充,它将帮助 DataStax 用户防止不安全的内容和模型输出。
“护栏功能是我认为可能对开发人员和最终用户影响最大的功能之一,”Anuff 说。“护栏基本上是一个侧边模型,它能够识别和拦截来自用户、摄取或从数据库检索到的不安全内容。”
Nvidia 集成还有助于实现模型的持续改进。Anuff 解释说,NeMo Curator 允许企业 AI 用户能够确定可用于微调目的的附加内容。
集成的总体影响是帮助企业更快、更经济高效地从 AI 中获益。Anuff 指出,这种方法并不一定完全依赖于 GPU。
“Nvidia 企业堆栈实际上能够在 CPU 和 GPU 上执行工作负载,”Anuff 说。“GPU 将更快,通常是您希望放置这些工作负载的地方,但如果您想将某些东西卸载到 CPU 上以节省成本,在不重要的区域,它也允许您这样做。”