Gartner预测：2025年AI代理崛起

人工智能的步伐正在不断加快，以前无法想象的能力正在成为现实。这在人工智能代理（或虚拟同事）方面尤其明显，它们将与我们并肩工作，最终将实现自主。

事实上，Gartner 预测，到 2028 年，至少 15% 的日常工作决策将通过代理人工智能自主做出（2024 年为 0%）。为了进一步强调该技术的潜力，该公司已将其列为 2025 年的顶级战略技术趋势。

“这真的发生得很快，”Gartner 的杰出副总裁分析师 Gene Alvarez 告诉 VentureBeat。“没有人会在晚上睡觉时完成所有事情。组织花费大量时间监控事物。创建代理的能力不仅可以进行监控，还可以采取行动，这将不仅从生产力角度，而且从时间角度提供帮助。”

Gartner 预测明年还将出现哪些趋势？以下是该公司本周在其 Gartner IT 大会/Xpo 2024 上将探讨的一些趋势。

Alvarez 解释说，人工智能代理的入门级用例是那些占用人类时间和精力的平凡任务。

下一级是能够自主监控和管理系统的代理人工智能。“代理人工智能能够计划、感知和采取行动，”Alvarez 说。“与其仅仅让某些东西监控系统，不如让代理人工智能进行分析、进行修复并报告修复结果。”

展望更复杂的场景，代理有一天可以帮助提升员工队伍。例如，新员工通常会跟随人类员工学习，但现在可以由人工智能同事指导。

“你可以让代理成为导师，帮助他们更快地攀登学习曲线，”Alvarez 说。

他承认，这一切既“酷又可怕”，而且人们担心会失业。“但如果代理实际上可以教我一套新技能，我就可以从即将消失的工作岗位转移到需要的工作岗位，”他指出。

谈到下一个顶级趋势，Alvarez 指出：“那里有一支全新的劳动力队伍，我们该如何治理它？”

这将催生人工智能治理平台，使组织能够管理其人工智能系统的法律、道德和运营绩效。新的工具将创建、管理和执行政策，以确保人工智能的透明度和负责任使用。这些平台可以检查偏差并提供有关模型构建方式以及提示背后的推理的信息。

Alvarez 预测，最终，此类工具将成为人工智能创建过程本身的一部分，以确保从一开始就在模型中融入道德和治理。

“我们可以通过透明度来建立信任，”他说。“如果人们对人工智能失去信任，他们就不会使用它。”

Alvarez 指出，目前有七种计算范式“就在我们家门口”。这些包括 CPU、GPU、边缘、专用集成电路、神经形态系统、经典量子和光学计算。

“我们一直有一种从一种计算方式过渡到另一种计算方式的心态，”Alvarez 说。“但我们从未很好地完成过这种过渡。”

但他指出，未来的混合计算模型将结合不同的计算、存储和网络机制。编排软件将根据任务和最适合该任务的方法，将计算从一种方式转移到另一种方式。

“关键在于如何让它们协同工作，”Alvarez 说。

与此同时，他指出，新的、更具体的计算技术将消耗明显更少的能量。这一点很重要，因为人们越来越重视减少能耗和碳足迹。但“与此同时，对 IT 计算能力的需求正在以惊人的速度增长。”

渐进式改进是不够的；企业需要长期解决方案，他说。新技术——例如绿色云提供商或新的、更高效的算法——可以将效率提高数千倍，甚至数十万倍或数百万倍。

人工智能正在帮助威胁行为者比以往更快、更容易地传播虚假信息。他们可以发布深度伪造内容，制作令人信服的网络钓鱼电子邮件；利用工作场所协作工具中的漏洞；使用恶意软件窃取凭据；以及发起帐户接管（以及其他策略）。

这使得虚假信息安全至关重要；新兴类别旨在评估真实性、跟踪有害信息的传播并防止冒充。元素包括品牌冒充扫描、第三方内容评估、声明和身份验证、网络钓鱼缓解、帐户接管预防、社交/大众媒体和暗网监控以及情绪操纵。Alvarez 解释说，深度伪造检测还将能够识别合成媒体，而水印工具将有助于确保用户与真实的人互动。

Gartner 预测，到 2028 年，一半的企业将开始采用专门为虚假信息安全而设计的产品、服务或功能，而目前这一比例不到 5%。

“虚假信息安全不仅仅是一种技术，”Alvarez 说，“它将是一系列技术的集合。”

为后量子世界做好安全准备

现在，网络运行在公钥密码学或非对称加密的基础上，它可以保护两个通信点。Alvarez 解释说，这种加密很难破解，因为它需要的时间太长。

然而，量子计算正在迅速发展。“将会有一个点，量子计算将开始工作，我们将能够破解这种加密，因为它具有实时执行此操作的数学能力，”Alvarez 说。

红队已经做好了准备，并正在等待：许多人正在收集加密数据并保存起来，直到量子计算实现。这不会太久：Gartner 预测，到 2029 年，量子计算的进步将使大多数传统的非对称密码学变得不安全。

“我们认为这将比千年虫问题更大，甚至更大，”Alvarez 说。

他说，组织现在必须为后量子密码学做好准备，以确保其数据能够抵抗解密。Alvarez 指出，切换密码方法并不容易，而且“不是一个简单的补丁”。

一个好的起点是美国国家标准与技术研究院 (NIST) 制定的标准。Alvarez 指出，该机构将在 2025 年春季发布其后量子密码学指南的第二版。

“当所有锁都被打开时，该怎么办？你需要新的锁，”Alvarez 说。“我们希望确保在量子计算成为现实之前更新我们的安全措施。”

Gartner 预计，双向脑机接口 (BBMI) 的使用将增加，这种接口可以读取和解码大脑活动，并增强人类认知能力。Alvarez 解释说，这些接口可以直接集成到我们的大脑中，也可以通过眼镜或头带等可穿戴设备实现。

Gartner 预计，到 2030 年，30% 的知识工作者将使用 BBMI 等技术来保持在人工智能驱动的职场中的竞争力（2024 年这一比例不到 1%）。Alvarez 说，他看到了人类技能提升和下一代营销的潜力——例如，品牌将能够了解消费者的想法和感受，以衡量情绪。

Alvarez 最终将其比作 2011 年的电影《永无止境》或 Apple TV 的《分身》（尽管公平地说，这两部作品都没有以最积极的方式描绘这项技术）。“它可以进入你的大脑，增强功能，”他说。