前途科技
  • 科技
  • AI
    • AI 前沿技术
    • Agent生态
    • AI应用场景
    • AI 行业应用
  • 初创
  • 报告
  • 学习中心
    • 编程与工具
    • 数据科学与工程
我的兴趣
前途科技前途科技
Font ResizerAa
站内搜索
Have an existing account? Sign In
Follow US
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
AI

AI推理:算力突破,数据并非唯一解

NEXTECH
Last updated: 2025年8月18日 上午6:52
By NEXTECH
Share
11 Min Read
SHARE

“`html

Contents
颠覆AI格局:DeepSeek的低成本高性能模型与推理计算的崛起TTC时代:AI硬件、云平台及应用软件的变革

颠覆AI格局:DeepSeek的低成本高性能模型与推理计算的崛起

人工智能领域日新月异。2025年初,中国AI实验室DeepSeek发布的新模型引发行业震动,导致英伟达等AI相关股票暴跌17%。这源于DeepSeek模型以极低成本实现了高性能,引发了对AI数据中心未来走向的广泛讨论。

这场变革的背景是AI训练数据的匮乏。主流AI实验室已利用互联网上大部分公开数据训练模型,数据稀缺正逐渐限制预训练模型的进一步改进。因此,模型提供商正转向“测试时计算”(TTC),即推理模型(如OpenAI的“o”系列模型)在推理阶段进行“思考”,以此提升模型性能。业界认为,TTC可能带来类似于预训练时代的规模效应提升,从而推动下一波AI变革。

这预示着两大转变:一是预算相对较小的实验室也能发布最先进的模型;二是TTC成为AI进步的下一个潜在驱动力。以下我们将深入探讨这两大趋势及其对竞争格局和AI市场的影响。

TTC时代:AI硬件、云平台及应用软件的变革

TTC的兴起将对AI硬件资源的需求和管理方式产生深远影响。

  • 从巨型训练集群到按需“测试时”峰值: AI公司将减少对大型GPU训练集群的投资,转而加大对推理能力的投入以满足TTC需求。虽然GPU需求依然巨大,但训练和推理工作负载的差异将影响芯片配置和使用方式。推理工作负载更具动态性,容量规划将比批量训练工作负载更为复杂。
  • 推理优化硬件的崛起: TTC将为专注于低延迟推理计算的替代AI硬件创造更多机会。例如,对用于推理的专用集成电路(ASIC)的需求将增加。通用GPU的优势或将下降,这将利好专业推理芯片供应商。

此外,TTC的兴起还将带来其他影响:

  • 服务质量(QoS)成为关键差异化因素: 除了模型精度,不可靠的推理API也是阻碍企业采用AI的重要因素。TTC可能加剧这些问题。提供具有QoS保障的云服务商将占据显著优势。
  • 尽管效率提升,云支出仍可能增加: 更高效的LLM训练和推理方法可能遵循杰文斯悖论——效率提升反而导致整体消耗增加。高效的推理模型可能鼓励更多开发者使用推理模型,从而增加计算需求。
  • 预训练模型的影响: DeepSeek的出现表明,专有预训练模型的护城河可能减弱。TTC的创新将来自更多非主流AI实验室。
  • 安全和隐私问题: DeepSeek的中国背景使其产品面临安全和隐私审查。其在中国提供的API和聊天机器人服务不太可能被美国、加拿大或其他西方国家的企业广泛采用。DeepSeek的模型即使由第三方托管,也可能面临审查,限制其在企业中的应用。
  • 垂直领域专业化发展: 过去,垂直应用主要关注特定业务需求的工作流程。但模型的重大突破可能使这些应用变得过时。如果训练时计算的进步趋于平缓,这种风险就会降低。应用层公司可以通过优化推理效率和微调输出,在特定领域取得竞争优势。

DeepSeek证明,单纯依靠预训练数据规模来提升模型质量的模式正在改变,TTC的重要性日益凸显。虽然DeepSeek模型在企业软件中的直接应用仍存在不确定性,但其对改进现有模型的影响日益清晰。DeepSeek的进步促使老牌AI实验室在其工程和研究流程中采用类似技术,从而降低模型成本,并可能导致模型使用量的增加,印证了杰文斯悖论。

作者:瓦伊兹普尔·帕苏坦(Pashootan Vaezipoor),格鲁吉亚公司技术主管

“`

Share This Article
Email Copy Link Print
Previous Article 小牛电动:2025年Q2营收12.56亿元,同比增长33.5%
Next Article DEC System 10; Source: By Joe Mabel, CC BY-SA 3.0. 算力爆炸:AI时代,从MIPS到艾级浮点运算
Leave a Comment

发表回复 取消回复

您的邮箱地址不会被公开。 必填项已用 * 标注

最新内容
20251205180959635.jpg
AMD为对华出口AI芯片支付15%税费,引发美国宪法争议
科技
20251205174331374.jpg
家的定义与核心价值:探索现代居住空间的意义
科技
20251202135921634.jpg
英伟达20亿美元投资新思科技,AI芯片设计革命加速
科技
20251202130505639.jpg
乌克兰国家AI模型选定谷歌Gemma,打造主权人工智能
科技

相关内容

AI

马斯克收购 ChatGPT,你会停止使用吗?

2025年5月12日
AI

企业如何看待AI及其应用影响

2025年8月6日
250124_smartglasses.jpg?resize=1200,600
AI

智能眼镜的未来之路

2025年5月3日
AI

思科AI防御:抵御你看不见的网络威胁

2025年5月31日
Show More
前途科技

前途科技是一个致力于提供全球最新科技资讯的专业网站。我们以实时更新的方式,为用户呈现来自世界各地的科技新闻和深度分析,涵盖从技术创新到企业发展等多方面内容。专注于为用户提供高质量的科技创业新闻和行业动态。

分类

  • AI
  • 初创
  • 学习中心

快速链接

  • 阅读历史
  • 我的关注
  • 我的收藏

Copyright © 2025 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号

前途科技
Username or Email Address
Password

Lost your password?

Not a member? Sign Up