2025年生成式AI：生产力、网络安全和创意

2025 年生成式 AI 将如何改变世界？

2024 年，生成式 AI 能力达到了前所未有的高度，而 2025 年，这一趋势将继续加速发展。AI Business 汇集了来自各行各业公司的生成式 AI 预测，探讨了他们对生成式 AI 在未来一年如何改变各行各业的期望。

以下是专家们对 2025 年的主要趋势预测，包括媒体转型、网络安全、环境影响以及强大训练数据和道德护栏的重要性。

媒体的未来：AI 与人类的协同创作

Provoke Solutions 首席执行官 Andy Lin 预计，到 2025 年，生成式 AI 将彻底改变主流媒体，电影制片厂、音乐制作人和大型品牌将利用其强大的功能，以空前的速度创造超逼真的视觉效果、原创配乐和高质量内容。人类与 AI 协作的时代将模糊艺术家和算法之间的界限，引发新一轮的创意输出，提升生产力和想象力。

个性化教育：AI 助力学习革命

Lin 还指出，生成式 AI 将成为教育领域的变革者，使平台能够提供针对每个学生独特需求的超个性化学习体验。通过自适应内容生成和实时反馈，学生将受益于动态调整的课程，促进更深入的参与和加速学习。

道德护栏：确保 AI 的负责任使用

随着生成式 AI 的普及，强大的道德准则和内容验证方法变得越来越重要。到 2025 年，我们可以预期建立全球标准和监管机构，重点关注防止滥用并确保负责任地使用 AI——用于识别深度伪造和确保数字平台上内容真实性的工具。

AI 助手：更人性化的互动

由生成式 AI 提供支持的聊天机器人和虚拟助手将发展成为能够进行复杂、富有同理心的交流的实体。到 2025 年，这些 AI 模型将能够进行细致入微的对话，比以往更接近人类互动，将客户服务、治疗和个人数字伴侣转变为高效、人性化的体验。

AI 的民主化：人人都是创客

生成式 AI 将变得更加容易获得，为个人和小企业设计的工具将像办公软件一样普遍。这种民主化将赋予用户在没有广泛技术知识的情况下创建专业级内容和原型的能力，在全球范围内促进创新和创业。

中小企业的 AI 革命：公民开发者崛起

Redwood Software 首席产品官 Charles Crouchman 认为，中小企业将借助“公民开发者”加入 AI 竞赛。在生成式 AI 和协同驾驶员的帮助下，以前缺乏技术专长的员工将能够使用自然语言构建工作流程。这种转变将使中小企业能够与拥有更多资源但适应新技术能力较弱的大公司竞争，甚至超越它们。

AI 超越自动化：走向复杂决策

Creatio 全球产品营销和战略副总裁 Burley Kawasaki 预计，生成式 AI 将超越自动化。虽然自动化工具简化了任务，但生成式 AI 将用于复杂的决策。想象一下：AI 模型不仅会自动检索数据，还会根据用户的需求整理采购见解，在没有人工干预的情况下，提供有关供应商谈判或风险缓解策略的建议。

AI 的能源消耗：可持续发展的挑战

IBM 全球可持续金融和 ESG 报告服务负责人 Adam Thomson 指出，数据中心能耗将成为 AI 用户面临的关键问题。生成式 AI 的增长正在迅速推动数据中心所需的能源。根据高盛的预测，一个 ChatGPT 查询所需的电力几乎是谷歌搜索的 10 倍，数据中心能耗预计到 2030 年将增长 160%。这种增长正在与企业可持续发展目标发生冲突，首席信息官将在未来一年面临压力，需要解释他们的 IT 和预算。

网络安全：AI 驱动的攻击与防御

OpenText Cybersecurity 首席解决方案顾问 Matt Aldridge 认为，去年，他们预测的由于生成式 AI 的普及，网络钓鱼攻击将变得更加复杂、更有针对性且难以发现，这一预测已经成为现实。他们预计这一趋势将持续下去，因为攻击者将继续利用 AI 集成解决方案（如下一代网络钓鱼工具包）来武装自己。确保所有方面都得到覆盖将成为中小企业防御者的首要任务。做好基础工作比以往任何时候都更加重要。

Aldridge 还指出，我们正在接近密码身份验证替代方案成为真正实用现实的临界点。他预计中小企业将继续增强其身份验证实施，这可能包括采用 Passkeys、FIDO2 令牌和其他无密码解决方案，以在很大程度上规避攻击者目前使用的网络钓鱼和凭据填充技术。

在网络安全军备竞赛中，防御者一直在努力跟上攻击者及其最新技术。2025 年，这场猫捉老鼠的游戏将继续下去，AI 增强的攻击将越来越多地与 AI 驱动的防御对抗。防御者需要专注于了解其解决方案的 AI 功能和局限性，帮助他们避免自满，同时在检测和响应攻击时提高速度和敏捷性。

图像生成：完美文本的融合

Monotype 首席执行官 Ninan Chacko 预计，2025 年，生成式 AI 图像中的文本将完美无缺。生成式 AI 可能会擅长创建图像，但文本集成一直滞后。将出现新的工具，可以无缝替换生成视觉效果中不完美的文本，确保与背景和基底完美对齐。

AI 在产品工程中的应用：注重实际价值

R Systems 首席执行官 Nitesh Bansal 指出，生成式 AI 已经对数字产品工程产生了重大影响。它从根本上改变了公司优化产品设计和功能的方式——从加速构思和原型设计到用户体验和产品性能，无所不包。

Bansal 预计，2025 年，我们将看到更多这样的应用，但我们也将看到组织对如何利用 AI 采取更务实的态度。AI 已经有很多炒作——而且这种炒作还会继续——但越来越多的技术领导者将更加重视确保可衡量的投资回报率——尤其是在同一财政年度或 12 个月内可以实现的目标。例如，如果一个组织需要复杂的编码来增强新产品，使用 AI 自动化例行开发任务可以释放出所需的时间，并获得立竿见影的效益。

Bansal 还强调了高质量数据的关键作用。在所有情况下，AI 本质上都会受到所用数据质量的影响。例如，如果一家公司在聊天机器人功能中利用 AI，它必须考虑用于训练生成式 AI 模型的数据，并提出关键问题。模型从哪里获取数据？数据中包含哪些类型的数据？数据是否经过评估和审查以确保其准确性？质量差、不准确或不完整的数据会导致 AI 训练和输出出现多个问题，最终会抵消 AI 最初旨在创造的益处。

组织还需要与众不同。仅仅向应用程序添加功能和功能已经不再足够——组织必须利用所有数据，通过预测分析、个性化和最终用户定制，在内部和外部创造所需的战略优势。

AI 的投资热潮：从“夏天”到“秋天”

Domino Data Lab AI 战略主管 Kjell Carlsson 认为，两年前 ChatGPT 的推出引发了“AI 夏天”，带来了巨大的兴奋和投资。根据 CNBC 的最新报道，近 500 笔生成式 AI 交易吸引了 268 亿美元的投资，延续了 2023 年生成式 AI 公司筹集了 259 亿美元的趋势。

Carlsson 预计，2025 年“泡沫”不太可能破裂，但我们正在进入“AI 秋天”，因为组织难以扩展 AI 的实施，投资者、企业领导者和董事会开始期待投资回报。这种调整可能会导致生成式 AI 初创企业融资出现同比下降，以及资金进一步集中在少数获得市场吸引力的初创企业身上。

人们预计，在发达经济体中，AI 不会导致净就业岗位减少，在美国，它实际上可能会推动就业岗位的创造，因为公司寻求满足对定制 AI 解决方案的需求，这些解决方案可以满足特定的业务用例。然而，拥有大量客户服务和后台处理行业的开发中国家可能会出现大量工作岗位流失，部分原因是 AI。

AI 的成熟：从炒作到实用

Altair 分析和物联网高级副总裁 Christian Buckner 认为，到 2025 年，由 ChatGPT 引发的生成式 AI 初始炒作将随着技术的成熟而消退。这些工具将不断发展，更有效地满足业务用户的特定需求。基础模型将继续发展，提供越来越准确和相关的响应。与此同时，更广泛的市场将开发必要的基础设施和工具，将生成式 AI 整合到日常运营中。我们将看到新的护栏的出现，增强构建信任的技术以及超越聊天机器人的更广泛的用例。更多“AI 代理”将被部署来自动化业务流程，并将见解直接传递给用户。因此，提供生成式 AI 治理和创建代理工具的平台将变得越来越重要。

Buckner 还强调了知识图谱的重要性。知识图谱提供了一个语义层，以人类的术语描述企业数据生态系统，同时在以前断开连接的数据源之间创建新的逻辑连接。随着生成式 AI 模型以更人性化的方式思考，知识图谱使模型和业务用户都能“理解”可用的数据，并随后产生关于数据的真实见解。

随着组织寻求民主化其数据以获得竞争优势，知识图谱为业务用户提供了一种更简单的方式来访问和利用这些数据。知识图谱就像一个智能助手，将分散的数据整理成人类和 AI 都能轻松理解和利用的格式。这简化了生成式 AI 提供有价值见解的能力，并使人们能够做出更明智的决策，类似于虚拟助手如何帮助您规划公路旅行。

网络安全：AI 驱动的社会工程攻击

Bitwarden 首席运营官 Gary Orenstein 认为，AI 增强的社会工程诈骗将继续主导威胁环境。2024 年 Bitwarden 网络安全脉搏调查发现，89% 的技术领导者已经对生成式 AI 增强的现有和新兴社会工程策略感到担忧，这突出了风险的加剧。到 2025 年，人们可能会适应更可信的攻击，但这些威胁的速度和复杂性可能会超过防御措施。对抗这些威胁的最佳方法是分层安全——结合无密码解决方案、多因素身份验证 (MFA) 以及针对员工识别潜在诈骗的持续教育。

电子商务：AI 驱动的搜索和发现

Lucidworks 产品管理副总裁 Keri Rich 预计，明年将看到不同的生成式 AI 驱动的体验无缝地融入整个电子商务搜索和发现体验，包括告别搜索栏。我们已经看到亚马逊等公司计划使用生成式 AI 来加快客户研究并简化产品比较。零售商首先需要了解他们购物者旅程的哪些部分可以从增强的个性化和改进的效率中受益，然后开发 AI 解决方案来帮助他们实现这一目标。

Lucidworks 首席执行官 Mike Sinoway 补充说，成本、速度和访问控制对于希望实施生成式 AI 的组织来说仍然是关键的用例考虑因素。首席信息官和首席技术官将期望每个软件包都包含嵌入式 AI 工具。公司将购买集成的 AI 解决方案包，这些解决方案包使用数据、功能、安全性和输出为特定的业务功能和流程提供服务。

Lucidworks 零售/电子商务战略和创新高级副总裁 Phil Ryan 预计，生成式 AI 应用程序将超越针对消费者的个人推荐。AI 驱动的工具将生成动态内容、定制产品配置和超相关产品图像（即基于客户行为和偏好使用实时数据和深度学习模型的自动增强现实）。

Ryan 还预测，未来 12 个月将为客户提供更直观、更便捷的方式与电子商务平台互动，包括非文本查询。客户将能够在不将单词键入搜索栏的情况下提出问题。例如，上传图像以查找类似产品。

AI 将越来越多地通过提供基于异常的管理来帮助商品销售人员，识别表现不佳或表现过佳的产品，自动执行产品策划，并根据实时销售和行为洞察优化定价策略。

Ryan 认为，到 2025 年，对话式商务将最终超越传统的搜索和发现购物方式，成为消费者与品牌互动和在线完成购买的主要方式。

将使用生成式 AI 来增强工具，为产品添加新的元数据，包括 PDF 源文档，为搜索团队和商品销售人员节省时间。

AI 的未来：从工具到合作伙伴

Vero AI 首席执行官 Eric Sydell 认为，随着组织面对企业范围部署的现实，最初的生成式 AI 狂热正在让位于实际挑战。虽然单个 AI 工具显示出希望，但有效地扩展它们需要的不只是技术。展望 2025 年，成功的组织将专注于三个关键要素：重组工作流程以增强而不是取代人类工作者，利用强大的评估工具来评估 AI 的有效性，以及使用科学方法来衡量 AI 系统的规模。

Sydell 还指出，随着基础 AI 模型的不断发展，鉴于它们对海量数据的依赖，它们所能变得更智能的程度是有限的。下一个前沿在于用专门的附加组件增强这些模型，以提高它们的适应性和特定领域的能力。预计生成式 AI 将变得更加了解上下文、更加定制化，并深度集成到行业工作流程中，将先进的机器学习从一项技术奇迹转变为一种实用的、不可或缺的工具，增强各个部门的人类潜力。

新兴技术提供商正在基于基础生成式 AI 模型构建可扩展的工具，以更专注和实用的方式增强其功能。就像云计算使强大的计算能力对所有人触手可及一样，这些“认知架构”将使任何规模的企业都能利用先进的 AI，而无需高昂的前期成本。对可扩展生成式 AI 的创造性方法将公平竞争环境，使中小型企业能够有效地进行创新和战略制定，与大型竞争对手的效率相匹配。

随着 AI 越来越多地融入工作流程，数字鸿沟将扩大。那些学习和利用先进工具（尤其是生成式模型）的人将获得显著的生产力优势，推动职业发展和业务生产力。这种转变将创造对 AI 素养和技能提升计划的日益增长的需求。虽然 AI 将自动化例行任务，推动组织变革并取代一些角色，但它也将创造新的机会来管理和监督 AI 系统。对 AI 治理和人工监督的需求将加剧，要求企业在机器效率与人类专业知识之间取得平衡。

AI 的下一步：从文本到行动

WalkMe 战略定位副总裁 Ofir Bloch 认为，生成式 AI 2.0 的“文本到行动”将推动企业走向超高生产力。迄今为止，许多企业的生成式 AI 应用都是“文本到文本”——输入文本提示并获得文本响应。明年，企业将把生成式 AI 推向一个新的高度，通过解锁“文本到行动”来实现这一目标。输入提示的用户将自动触发一个操作，释放出人工“处理时间”，从而使日常任务更快地完成。

Bloch 指出，这种即将到来的转变并不意味着 AI 将“取代人们的工作”。然而，这确实意味着，劳动力必须不断发展其使用 AI 输出的方式，这一点比以往任何时候都更加重要。不愿或无法适应的企业和员工将开始落后。反过来，能够成功利用文本到行动的组织将走在解锁超高生产力的正确轨道上——实现前所未有的绩效水平。毕竟，AI 不会取代你的工作——但能够更好地使用 AI 的人可能会取代你。

AI 欺诈：新兴的威胁

Subex 公司战略副总裁兼 AI 业务负责人 Harsha Angeri 预计，生成式 AI 欺诈将变得更加普遍，并在新闻中占据更重要的位置——深度伪造音频和视频正变得越来越民主化，并且有很多开源可用，因此我们将看到更多使用这种技术的账户接管欺诈。

Angeri 还指出，账户接管和各种身份欺诈，包括合成身份使用技术（如 SIM 卡交换和克隆）或利用设备进行非法获利，已经成为跨地理区域的主要用例，并将继续如此。生成式 AI 将加速账户接管。

AI 治理：监管的焦点

SUSE 投资组合解决方案和服务副总裁 Abhinav Puri 认为，生成式 AI 治理将在新的一年成为关注的焦点。在过去两年中，许多组织在 AI 用例上投入了巨资，而世界各地的政府已经制定并实施了越来越严格的关于如何利用 AI 的法规。随着我们从 AI 的实验阶段过渡到实施阶段，组织将面临对其风险和安全管理的更严格审查。

Puri 预计，2025 年，将有更多投资和并购活动集中在 AI 治理上。供应商将被问及他们提供的技术如何为组织提供风险、信任和安全管理。