边缘AI应用：下一场人工智能战场

边缘计算：AI 浪潮下的新引擎

随着越来越多的企业投入到人工智能和机器学习的浪潮中，技术和运营领导者们一方面关注着竞争对手的动向，另一方面也密切关注着自身 AI 工作负载对基础设施需求的影响。他们不仅要应对当前的挑战，更要为未来不断演进的技术和日益复杂的架构做好准备。

AI 工作负载的数量、规模和复杂性正在呈指数级增长，这给数据中心带来了巨大的压力。数据中心已经不堪重负，竭尽全力为高性能基础设施提供电力、冷却和空间，以满足不断增长的需求。在芯片领域，创新步伐飞速，为大型基础模型和前沿模型提供了强大的算力支持，使其不断发展壮大，计算复杂度也随之提升。

曾经引领 AI 革命的硬件如今已显得过时，无法满足当前模型的需求。硬件更新周期不断缩短，企业原本期望基础设施能够使用 5 到 7 年，现在却发现其生命周期缩短至几个月。空间问题也日益突出，企业不得不为迁移和增长腾出空间。

AHEAD 的首席技术官 Mike Menke 指出，一些明确的趋势正在显现，其中最重要的是各行各业对边缘计算的推动。

“我们谈论的是非常耗电、非常庞大的系统，” Menke 说。“虽然边缘计算将缓解一些数据中心的压力，但我们仍将不断突破边缘和远边缘的界限，努力将计算能力更靠近最终用户。边缘将成为推理的最终目的地。”

边缘计算在制造、公用事业、零售、医疗保健和交通物流等资产密集型行业得到广泛应用。这些企业将来自边缘传感器和物联网设备的实时数据流与 AI 相结合，做出实时决策。

边缘计算的采用率正在快速增长。Gartner 预测，到 2025 年，75% 的企业生成数据将在传统集中式数据中心或云之外创建和处理。这种增长主要来自各行各业的新用例。

对机器学习、AI 和低延迟数据分析的需求不断增长，将继续推动对边缘计算解决方案的需求。边缘 AI 可以收集和分析数据，并提供洞察力，从而提高效率、降低安全风险，帮助企业为客户创造更多价值。边缘 AI 还应用于需要低延迟和数据重力（即通过在数据生成地处理数据来降低带宽成本）的用例，以及在断开连接时需要更高弹性的用例。

这不仅包括使用计算机视觉来检测和报告安全事件的物理安全系统，还包括用于医疗保健提供者的数据驱动临床决策支持 (CDS) 解决方案。随着对实时分析的需求不断增长，企业将需要在边缘进行更多数据处理和推理。分布式云解决方案、设备编排和管理软件、边缘应用程序平台和其他技术的持续快速创新将继续推动边缘计算的采用。

AHEAD 的高级工程总监 Bill Conrades 表示，由于各种原因，实施边缘解决方案一直是一个挑战。

“边缘 AI 不仅仅是硬件和软件，还包括生成实时数据流的传感器，” Conrades 说。“供应商生态系统非常分散，大多数 IT 部门没有能力大规模集成和维护边缘设备。您需要供应链透明度、资产管理、集成和配置服务，以及生命周期管理透明度，以便您知道何时更新许可证和支持合同。”

随着 AI 和生成式 AI 用例的不断增加，企业遇到了常见的障碍，包括需要进行大量的工程、数据科学和 IT 基础设施投资，这需要大量的工具和专业知识，而这些知识在当今的各个行业都非常稀缺。

一些重要因素改变了游戏规则，使远边缘计算变得更加可行。边缘管理和编排平台 (EMO) 允许在现场进行零接触配置和升级，这对于在偏远和难以到达的地区（如油田、太阳能农场和跨越全国的铁路）工作的行业来说意义重大。

大多数此类部署都拥有数百甚至数千个边缘设备，这些设备在远边缘进行推理，远离进行训练的核心数据中心，也远离 IT 团队所在的位置。借助 EMO 解决方案，IT 团队可以监控传感器和系统状态，在使用新的数据集或参数对核心 AI 模型进行微调后，将更新部署到模型本身，并在必要时更新硬件的固件。

“许多客户看到了像管理云应用程序一样管理边缘应用程序的好处，” Conrades 说。“他们希望以相同的方式管理系统。许多边缘编排解决方案支持容器或虚拟机。它们还支持以极低的延迟将加速器传递给应用程序。”

企业需要做好准备，以满足 AI 的当前状态和未来需求，而这两者都是不断变化的目标。

“许多企业习惯于对投资和项目设定有限的时间线，” Menke 说。“如今，重要的是要明白，这还处于早期阶段，创新正在飞速发展。您可能正在解决一个问题，但第二天醒来，世界另一端的人已经解决了这个问题。能够抓住这些创新，将其融入您的开发流程并加以利用，现在比以往任何时候都更加重要。”

Conrades 指出，AI 并不新鲜，生成式 AI 只是将传统的 AI（包括机器学习和深度学习）更清晰地呈现在人们面前，促使更多企业发现激动人心的新用例。这意味着可用的专业知识储备非常深厚。

“例如，您可以引入一家拥有成熟解决方案的长期 ISV 来解决您的用例，将 AI 投入运营，并开始解决当前问题。您可以与 AHEAD 等组织合作，他们可以提供资源来帮助您进行 AI 之旅，包括预训练模型、微调专业知识、硬件积木和一个简化和加速 AI 进程的程序，” 他说。“我可以保证，您的竞争对手已经在某种程度上采用并运营 AI。”

本文由 AHEAD 赞助。