订阅我们的每日和每周新闻通讯,获取有关行业领先的 AI 报道的最新更新和独家内容。了解更多
在 2025 年,扩展生成式工具的应用一直是平衡雄心壮志与实用性的挑战,而现在,其重要性比以往任何时候都更加突出。企业争先恐后地采用大型语言模型 (LLM),却发现了一个新的现实:扩展不仅仅是部署更大的模型或投资于尖端工具,而是将 AI 集成到能够改变运营、赋能团队和优化成本的方式中。成功不仅仅取决于技术,还需要文化和运营上的转变,将 AI 能力与业务目标相一致。
随着生成式 AI 从实验阶段发展到企业级部署,企业正面临着一个拐点。早期采用的兴奋已经让位于维护效率、管理成本和确保在竞争市场中保持相关性的实际挑战。2025 年扩展 AI 的关键在于回答一些棘手的问题:企业如何才能让生成式工具在各个部门发挥作用?什么基础设施能够支持 AI 的增长,而不会造成资源瓶颈?也许最重要的是,团队如何适应 AI 驱动的流程?
成功取决于三个关键原则:识别明确的高价值用例;保持技术灵活性;培养一支能够适应的员工队伍。成功的企业不仅仅是采用生成式 AI,而是制定将技术与业务需求相一致的策略,不断评估成本、性能和持续影响所需的文化转变。这种方法不仅仅是部署尖端工具,而是要在技术和市场以惊人的速度发展的情况下,建立运营弹性和可扩展性。
像 Wayfair 和 Expedia 这样的公司体现了这些经验教训,展示了混合式 LLM 采用方法如何改变运营。通过将外部平台与定制解决方案相结合,这些企业展示了平衡敏捷性和精度的力量,为其他企业树立了榜样。
构建或购买生成式 AI 工具的决定通常被描绘成二元选择,但 Wayfair 和 Expedia 展示了细致入微的策略的优势。Wayfair 的首席技术官 Fiona Tan 强调了平衡灵活性和特定性的价值。Wayfair 使用 Google 的 Vertex AI 进行一般应用,同时开发专有工具来满足特定需求。Tan 分享了公司的迭代方法,分享了较小、成本效益更高的模型在标记产品属性(如织物和家具颜色)方面往往优于更大、更昂贵的模型。
同样,Expedia 采用了一个多供应商 LLM 代理层,允许无缝集成各种模型。Expedia 的高级副总裁 Rajesh Naidu 将他们的策略描述为一种保持敏捷性的方法,同时优化成本。“我们总是抓住机会,在有意义的地方寻找最佳模型,但我们也愿意为自己的领域构建模型,”Naidu 解释道。这种灵活性确保团队能够适应不断变化的业务需求,而不会被锁定在单个供应商。
这种混合式方法让人想起 20 世纪 90 年代的企业资源规划 (ERP) 发展,当时企业必须在采用僵化的现成解决方案和高度定制系统以适应其工作流程之间做出选择。当时,与现在一样,成功的公司认识到将外部工具与定制开发相结合以解决特定运营挑战的价值。
Wayfair 和 Expedia 都证明,LLM 的真正力量在于能够提供可衡量影响力的目标应用。Wayfair 使用生成式 AI 来丰富其产品目录,通过自主准确性增强元数据。这不仅简化了工作流程,而且还改善了搜索和客户推荐。Tan 强调了另一个变革性应用:利用 LLM 分析过时的数据库结构。由于原始系统设计人员不再可用,生成式 AI 使 Wayfair 能够减轻技术债务,并在遗留系统中发现新的效率。
Expedia 在客户服务和开发人员工作流程中成功地集成了生成式 AI。Naidu 分享说,一个为通话摘要设计的定制生成式 AI 工具确保“90% 的旅行者可以在 30 秒内联系到客服人员”,这有助于显著提高客户满意度。此外,GitHub Copilot 已在整个企业范围内部署,加速了代码生成和调试。这些运营收益强调了将生成式 AI 能力与明确的高价值业务用例相一致的重要性。
扩展 LLM 的硬件考虑因素往往被忽视,但它们在长期可持续性中起着至关重要的作用。Wayfair 和 Expedia 目前都依赖云基础设施来管理其生成式 AI 工作负载。Tan 指出,Wayfair 继续评估 Google 等云提供商的可扩展性,同时关注本地化基础设施的潜在需求,以更有效地处理实时应用。
Expedia 的方法也强调灵活性。该公司主要托管在 AWS 上,采用了一个代理层来动态地将任务路由到最合适的计算环境。该系统平衡了性能和成本效率,确保推理成本不会失控。Naidu 强调了这种适应性的重要性,因为企业生成式 AI 应用变得越来越复杂,需要更高的处理能力。
这种对基础设施的关注反映了企业计算的更广泛趋势,让人想起从单体数据中心到微服务架构的转变。随着 Wayfair 和 Expedia 等公司扩展其 LLM 能力,他们展示了平衡云可扩展性和边缘计算和定制芯片等新兴选项的重要性。
部署 LLM 不仅仅是技术挑战,也是文化挑战。Wayfair 和 Expedia 都强调培养组织适应和集成生成式 AI 工具的准备工作的重要性。在 Wayfair,全面的培训确保各个部门的员工能够适应新的工作流程,特别是在客户服务等领域,AI 生成的回复需要人工监督才能与公司的语气和风格相匹配。
Expedia 通过建立负责任的 AI 委员会来监督所有主要的生成式 AI 相关决策,将治理提升到一个新的水平。该委员会确保部署符合道德准则和业务目标,在整个组织中培养信任。Naidu 强调了重新思考指标以衡量生成式 AI 有效性的重要性。传统的 KPI 通常不足,促使 Expedia 采用更符合业务目标的精确度和召回率指标。
这些文化适应对于生成式 AI 在企业环境中的长期成功至关重要。仅仅依靠技术无法推动转型;转型需要一支能够利用生成式 AI 能力的员工队伍,以及一个确保负责任实施的治理结构。
Wayfair 和 Expedia 的经验为任何希望有效扩展 LLM 的组织提供了宝贵的经验教训。这两家公司都证明,成功取决于识别明确的业务用例、保持技术选择的灵活性以及培养适应的文化。他们的混合式方法为平衡创新和效率提供了一个模型,确保生成式 AI 投资能够带来切实的成果。
2025 年扩展 AI 的前所未有的挑战在于技术和文化变革的速度。今天定义成功 AI 部署的混合式策略、灵活的基础设施和强大的数据文化将为下一波创新奠定基础。现在建立这些基础的企业将不仅仅是扩展 AI,而是扩展弹性、适应性和竞争优势。
展望未来,推理成本、实时能力和不断变化的基础设施需求的挑战将继续塑造企业生成式 AI 的格局。正如 Naidu 恰如其分地所说,“生成式 AI 和 LLM 将成为我们的长期投资,它使我们在旅游领域脱颖而出。我们必须意识到,这将需要一些有意识的投资优先级和用例理解。”