AI 应用的“最后一公里”:Lighting AI 推出 AI Hub 市场
在生成式 AI 蓬勃发展的时代,企业如何将 AI 应用顺利部署到生产环境中,成为了一个关键问题,这也被称为“最后一公里”难题。
为了解决这一难题,许多公司开始构建类似于苹果 App Store 的 AI 应用市场,让企业和开发者可以轻松获取并部署各种 AI 应用。AWS Bedrock 和 Hugging Face 等平台已经率先推出了自己的 AI 市场,提供来自合作伙伴的预构建应用,供客户直接集成到其系统中。
Lighting AI,作为开源 Python 库 PyTorch Lighting 的运营公司,也加入了 AI 市场竞争的行列。今天,他们正式推出了 AI Hub,一个涵盖 AI 模型和应用的综合性市场。
Lighting AI 首席执行官 William Falcon 在接受 VentureBeat 独家采访时表示,AI Hub 允许企业直接找到所需的应用,而无需依赖其他平台来运行它。过去,企业需要先找到能够运行和托管模型的硬件提供商,然后才能找到部署模型并将其转化为实用工具的方法。
“但最终,你需要这些模型来做一些事情,这就是‘最后一公里’问题所在,这是企业最终使用的东西,而大部分都是来自提供独立应用程序的公司,”他说。“他们购买了所有这些工具,进行了大量的实验,但无法部署它们,也无法真正将它们带到‘最后一公里’。”
Falcon 补充说,AI Hub “消除了对专门平台的需求”。企业可以在一个地方找到任何类型的 AI 应用。这将帮助那些停留在原型阶段的组织更快地进行部署。
AI Hub 在发布时就拥有超过 50 个 API,涵盖了基础模型和应用。它托管了许多流行的模型,包括 DeepSeek-R1。
企业可以访问 AI Hub,找到使用 Lightning 的旗舰产品 Lightning AI Studio 或其他开发者构建的应用。然后,他们可以在 Lightning 的云或私有企业云环境中运行这些应用。组织可以链接他们的 AWS 或 Google Cloud 实例,并将数据保留在公司自己的虚拟私有云中。Falcon 表示,这为企业提供了对部署的控制权。
Lighting AI 的 AI Hub 可以与大多数云提供商协同工作。虽然它托管开源模型,但 Falcon 表示它托管的应用程序并非开源,这意味着用户无法修改其代码。
Lighting AI 将为现有客户免费提供 AI Hub,并提供 15 个每月积分来运行应用程序。对于想要连接到其私有云的企业,它将提供不同的定价层级。
Falcon 表示,AI Hub 加速了组织内部 AI 应用的部署,因为他们需要的一切都在平台上。
“最终,作为平台,我们为企业提供的是迭代和速度,”他说。“举个例子:我们有一家大型财富 100 强制药公司客户。在 DeepSeek 发布后的几天内,他们就已经将其投入生产,并开始运行。”
Lighting AI 的 AI Hub 并非第一个 AI 应用市场,但它的推出表明,自 ChatGPT 发布以来,企业 AI 领域发展速度之快,它引发了企业技术领域的生成式 AI 热潮。API 市场仍然为企业提供大量 SaaS 应用,越来越多的公司开始提供类似于苹果 App Store 的 AI 应用访问权限,使其更容易部署。
例如,AWS 在 12 月的 re:Invent 大会上宣布了 AWS Bedrock Marketplace,用于专门的基础模型,以及 Buy with AWS,它提供来自 AWS 合作伙伴的服务。
Hugging Face 推出了 Spaces,一个 AI 应用目录,允许开发者搜索和试用新应用,并已正式发布。Hugging Face 首席执行官 Clement Delangue 在 X 上发布消息称,Spaces “已经悄然成为最大的 AI 应用商店,拥有 40 万个应用程序,每天新增 2000 个应用程序,每周访问量达到 250 万次!”他还补充说,Spaces 的推出表明“AI 的未来将是分布式的”。
即使是 OpenAI 的 ChatGPT 上的 GPT Store 也在技术上充当了一个市场,让人们可以试用自定义 GPT。
Falcon 指出,大多数技术都以市场形式提供,尤其是为了接触众多潜在客户。事实上,这并非 Lighting AI 首次推出 AI 市场。Lighting AI Studio 于 2023 年 12 月首次宣布,它允许企业使用预构建模板创建 AI 平台。
“每项技术最终都会走到这一步,”Falcon 说。“在任何技术的演变过程中,你最终都会走到类似的东西。iPhone 就是一个很好的例子。你从点解决方案发展到计算器、手电筒和记事本。类似于 Slack 也做了同样的事情,以前你需要一个应用程序来发送文件或照片,但现在所有这些都集成在一个应用程序中。对于 AI 来说,还没有真正出现这样的东西,因为它还比较新。”