AI智能体耗电是聊天机器人的136倍

韩国科学技术院（KAIST）的一项最新研究首次量化了AI智能体的能耗成本。研究发现，这些自主系统每次查询的耗电量是传统生成式AI聊天机器人的136.5倍。研究人员警告，随着基于智能体的AI走向普及，全球电网可能面临巨大压力。

能耗差距

这项由KAIST教授Rhu Min-soo领导的研究在上周末发布。他们测量了AI智能体的功耗——这类系统不仅能回答单个问题，还能自主规划和执行多步骤任务，比如管理预算或预订旅行。与标准聊天机器人不同，智能体会反复调用底层语言模型，搜索网页、运行计算并发出指令。

这种自主性带来了高昂的代价。研究人员使用700亿参数的大语言模型（相当于当前商业AI服务），发现单个复杂智能体查询平均消耗348.41瓦时电量。在基准测试中，基于Meta Llama-3.1-Instruct 70B的Reflexion智能体框架每次查询消耗的GPU能量是标准单轮聊天机器人的136.5倍，而另一个名为LATS的框架则高出62.1倍。

研究还发现，智能体查询的生成时间比聊天机器人响应长153.7倍，而且昂贵的GPU芯片有一半以上时间处于空闲状态，在等待外部工具和网站响应时仍在耗电。

电网承压

研究最令人担忧的是规模预测。如果AI智能体每日全球请求量增长到约137亿次，数据中心总电力需求可能达到约199吉瓦——接近美国平均用电量的一半。

这一数字远超当前数据中心负荷。根据劳伦斯伯克利国家实验室的数据，2023年美国数据中心消耗约176太瓦时电量，约占全国用电量的4.4%。国际能源署预测，到2030年全球数据中心电力消耗将翻倍至约945太瓦时，但KAIST的研究表明，智能体AI工作负载可能会使需求增长远超这些预测。

呼吁重新设计

Rhu警告，科技行业不能仅依靠更智能的软件来解决这个问题。他呼吁对AI模型、芯片和数据中心电力基础设施进行彻底重新设计，以应对智能体AI带来的工作负载。这项研究发布之际，各大科技公司正竞相在企业级和消费级应用中部署AI智能体，这引发了新的疑问：电网能否跟上AI的雄心？