前途科技
  • AI
  • 初创
  • 报告
我的兴趣
前途科技前途科技
Font ResizerAa
站内搜索
Have an existing account? Sign In
Follow US
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
AI

Cerebras联手Perplexity,AI超速挑战千亿搜索市场

NEXTECH
Last updated: 2025年5月14日 上午6:54
By NEXTECH
Share
11 Min Read
SHARE

订阅我们的每日和每周新闻简报,获取有关行业领先人工智能报道的最新更新和独家内容。了解更多

Cerebras Systems 和 Perplexity AI 联手挑战传统搜索引擎的统治地位,宣布了一项合作关系,承诺以以前无法想象的速度提供近乎即时的 AI 驱动的搜索结果。

这项合作关系在今天发布的 VentureBeat 独家报道中宣布,其核心是 Perplexity 的新 Sonar 模型,该模型在 Cerebras 的专用 AI 芯片上以每秒 1200 个令牌的速度运行,使其成为最快的 AI 搜索系统之一。Sonar 基于 Meta 的 Llama 3.3 70B 基础构建,代表着用户将接受 AI 首选搜索体验的重大赌注,前提是这些体验足够快。

“我们与 Cerebras 的合作关系对于 Sonar 的诞生至关重要,”Perplexity 首席技术官 Denis Yarats 在一份声明中表示。“Cerebras 的尖端 AI 推理基础设施使我们能够实现前所未有的速度和效率。”

这个时机值得注意,就在 Cerebras 凭借其 DeepSeek 实现登上头条新闻的几天后,该实现展示了比传统基于 GPU 的解决方案快 57 倍的速度。该公司似乎正在利用这种势头,将自己确立为高速 AI 推理的首选提供商。

根据 Perplexity 的内部测试,Sonar 在用户满意度指标方面“大幅领先”GPT-4o mini 和 Claude 3.5 Haiku,同时与 Claude 3.5 Sonnet 等更昂贵的模型相匹配或超过这些模型。该公司的评估显示,Sonar 的事实性得分达到 100 分中的 85.1 分,而 GPT-4o 为 83.9 分,Claude 3.5 Sonnet 为 75.8 分。

这种合作关系反映了人工智能公司通过专用硬件寻求竞争优势的日益增长的趋势。Cerebras 首席执行官 Andrew Feldman 最近辩称,这种技术进步扩展了市场,而不是缩小了市场。“每次计算成本降低时,他们[公开市场投资者]都会系统地认为这会使市场变小。在过去 50 年的每一个实例中,它都使市场变得更大,”Feldman 在最近接受 ZDNET 采访时表示。

行业分析师认为,这种联盟可能会迫使传统的搜索提供商和其他人工智能公司重新考虑其硬件策略。提供近乎即时结果的能力对于企业客户来说可能特别有吸引力,因为速度和准确性直接影响生产力。

然而,关于专用 AI 芯片与传统基于 GPU 的解决方案相比的可扩展性和成本效益问题仍然存在。虽然 Cerebras 已经展示了令人印象深刻的速度优势,但该公司面临着说服客户性能优势证明潜在溢价的挑战。

这种合作关系还突出了人工智能搜索领域日益激烈的竞争格局,在这个领域,公司正在争先恐后地通过速度和准确性来区分自己,而不仅仅是模型的原始大小。对于 Perplexity 来说,它作为传统搜索引擎的 AI 原生替代方案而受到关注,与 Cerebras 的合作关系可以帮助它在企业搜索市场中确立自己的地位。

Perplexity 计划最初向 Pro 用户提供 Sonar,并将很快提供更广泛的可用性。两家公司没有透露其合作关系的财务条款。

Share This Article
Email Copy Link Print
Previous Article 20250513225244558.png 数据砖助力步行者队机器学习成本降低12000%
Next Article 日产汽车:2025年裁员规模扩大至2万人
Leave a Comment

发表回复 取消回复

您的邮箱地址不会被公开。 必填项已用 * 标注

最新内容
乘联会:2025年4月国内乘用车零售175.5万辆,同比增长14.5%
报告
卡塔尔航空:2025财年利润21.5亿美元创纪录
报告
4月中大型轿车销量榜:小米SU7登顶 超越奥迪A6L、奔驰E级和宝马5系
中汽数研:2025年4月中大型轿车销量 小米SU7登顶
报告
威尔逊:2025年3月BBA车主置换首选特斯拉占比14%
报告

相关内容

AI

谷歌云发布Vertex平台Veo AI视频生成模型

2024年12月9日
20250123225414243.jpg
AI

美国

2025年1月24日
AI

苹果发布深度Pro:AI重塑3D视觉

2024年10月6日
AI

IBM如何用AI颠覆咨询行业

2024年12月23日
Show More
AI

数据砖助力步行者队机器学习成本降低12000%

NEXTECH
Last updated: 2025年5月14日 上午6:52
By NEXTECH
Share
25 Min Read
SHARE

数据驱动:印第安纳步行者队如何利用 AI 提升球迷体验

在篮球世界,数据至关重要,但对于印第安纳步行者体育和娱乐公司 (PS&E) 而言,球迷数据同样宝贵。这家拥有印第安纳步行者队 (NBA)、印第安纳狂热队 (WNBA) 和印第安纳疯狂蚂蚁队 (NBA G 联盟) 的母公司,曾将大量数据投入到一个价值 10 万美元的机器学习 (ML) 平台中,用于生成关于票价和门票需求等因素的预测模型。然而,洞察力的获取速度却无法满足需求。

数据工程和战略经理 Jared Chavez 决心改变现状,在一年半前将平台迁移到 Salesforce 上的 Databricks。如今,他的团队以极低的计算成本,仅花费每年 8 美元,就能完成相同的预测项目,并获得对球迷行为的宝贵洞察。这种惊人的成本降低,主要归功于 Chavez 的团队将 ML 计算量降至极低水平。

除了三支篮球队外,总部位于印第安纳波利斯的 PS&E 还运营着步行者电竞业务,举办 NCAA 男子篮球锦标赛 (March Madness) 比赛,并通过 Gainbridge 球场 (演唱会、喜剧表演、牛仔竞技表演和其他体育赛事) 运营着繁忙的 300 多天活动业务。此外,该公司上个月宣布计划建造一个价值 7800 万美元的印第安纳狂热队运动表现中心,该中心将通过天桥连接到球场和停车场 (预计于 2027 年开放)。

所有这些都产生了令人难以置信的数据量,以及数据蔓延。从数据基础设施的角度来看,Chavez 指出,直到两年前,该组织还在 Microsoft Azure Synapse Analytics 上托管了两个完全独立的仓库。业务中的不同团队都使用自己的分析形式,工具和技能水平也差异很大。

他解释说,虽然 Azure Synapse 在连接到外部平台方面做得很好,但对于 PS&E 规模的组织来说,成本过高。此外,将公司的 ML 平台与 Microsoft Azure Data Studio 集成会导致碎片化。

为了解决这些问题,Chavez 在 2023 年 8 月切换到 Databricks AutoML 和 Databricks 机器学习工作区。最初的重点是配置、训练和部署围绕票价和比赛需求的模型。

Chavez 指出,技术和非技术用户都立即发现这些平台很有用,并且它们迅速加快了 ML 过程 (并降低了成本)。

“它极大地提高了营销团队的响应时间,因为他们不需要知道如何编码,”Chavez 说。“对他们来说,一切都是按钮,所有这些数据都作为统一记录返回到 Databricks。”

此外,他的团队将公司 60 多个系统整合到 Salesforce 数据云中。现在,他报告说,他们的存储数据量增加了 440 倍,生产中的数据源增加了 8 倍。

PS&E 现在的运营成本仅为之前年度运营支出 (OPEX) 的 2% 以下。“仅仅在运营方面,我们就节省了数十万美元,”Chavez 说。“我们将这些资金重新投资到客户数据丰富中。我们为不仅仅是我的团队,而是公司周围的分析部门重新投资了更好的工具。”

他的团队是如何将计算量降低到如此低的水平的?Chavez 解释说,Databricks 不断改进集群配置,增强了与模式的连接选项,并将模型输出集成回 PS&E 的数据表中。强大的 ML 引擎“不断丰富、细化、合并和预测” PS&E 在每个系统和收入流中的客户记录。

这使得每次迭代都能获得更明智的预测,事实上,Chavez 报告说,偶尔的 AutoML 模型有时可以直接投入生产,而无需他的团队进行任何进一步的调整。

“说实话,这只是知道输入数据的规模,以及训练大约需要多长时间,”Chavez 说。他补充道:“它是在你可能运行的最小集群规模上,它可能只是一个内存优化集群,但只是对 Apache Spark 非常了解,并且知道我们可以以最佳方式存储和读取数据的方向。”

Chavez 的团队使用数据、AI 和 ML 的一种方式是为季票套餐进行倾向评分。正如他所说:“我们销售了数量惊人的季票套餐。”

目标是确定哪些客户特征会影响他们选择的位置。Chavez 解释说,他的团队正在对他们存档的地址进行地理定位,以找出人口统计、收入水平和旅行距离之间的相关性。他们还在分析用户在零售、餐饮、移动应用程序参与度以及他们可能在 PS&E 校园参加的其他活动中的购买历史。

此外,他们还从 Stubhub、Seat Geek 和 Ticketmaster 之外的其他供应商那里获取数据,以评估价格点并确定库存的销售情况。Chavez 解释说,所有这些都可以与他们对特定客户的了解结合起来,以确定他们将坐在哪里。

有了这些数据,他们就可以例如将特定客户从 201 区升级到 101 区中场。Chavez 说:“现在,我们不仅能够转售他在上层看台的座位,我们还可以使用相同的特征,在季中使用相同的座位为另一个人出售更小的套餐。”

同样,数据可以用来增强赞助关系,赞助关系对任何体育特许经营权都至关重要。

“当然,他们希望与与他们重叠的组织合作,”Chavez 说。“那么,我们能否更好地丰富?我们能否更好地预测?我们能否进行自定义细分?”

理想情况下,目标是创建一个界面,任何用户都可以提出以下问题:“给我一个 20 多岁到 30 多岁,有可支配收入的步行者球迷群体。”更进一步:“寻找那些年收入超过 10 万美元,并且对豪华汽车感兴趣的人。”然后,该界面可以返回与赞助商数据重叠的百分比。

“当我们的合作伙伴团队试图达成这些交易时,他们可以按需提取信息,而无需依赖分析团队为他们完成这项工作,”Chavez 说。

为了进一步支持这一目标,他的团队正在寻求建立一个数据安全沙箱,或一个允许共享敏感数据的安全环境。这对于赞助商以及与其他球队和 NCAA (总部位于印第安纳波利斯) 的合作尤其有用。

“我们现在的首要任务是响应时间,无论是面向客户还是内部,”Chavez 说。“我们能否大幅减少使用 AI 来切分信息和对其进行分类所需的知识?”

Chavez 团队的另一个关注领域是检查人们在 PS&E 校园 (包括一个三层球场和一个户外广场) 的任何时间点的位置。Chavez 解释说,通过 WiFi 接入点,他们的整个网络基础设施都具备数据捕获功能。

“当你走进球场时,即使你没有登录,你也会 ping 所有的接入点,因为你的手机正在检查 WiFi,”他说。“我可以看到你的移动轨迹。我不知道你是谁,但我可以看到你的移动轨迹。”

这最终可以帮助人们在球场周围移动——例如,如果有人想买椒盐卷饼并正在寻找一个售货亭——并帮助他的团队确定在哪里放置食品和商品售货亭。

同样,位置数据可以帮助确定标牌的最佳位置,Chavez 解释说。确定标牌展示次数的一种有趣方法是在相当于平均球迷身高的地方放置视觉梯度。

“然后让我们计算一下,在他们周围的人数情况下,有人在经过时看到它的可能性有多大,”Chavez 说。“所以我可以告诉我的赞助商,你获得了 5000 次展示,其中 1200 次展示效果很好。”

同样,当球迷坐在座位上时,他们周围都是标牌和数字显示屏。位置数据可以帮助根据他们坐姿的角度确定展示的质量 (和数量)。正如 Chavez 指出:“如果这个广告在第三节只在屏幕上显示了 10 秒,谁会看到它?”

一旦 PS&E 拥有足够的位置数据来帮助回答这些类型的问题,他的团队计划与印第安纳大学的 VR 实验室合作,对整个校园进行建模。“然后,我们只需要一个非常有趣的沙盒,可以在里面跑来跑去,回答所有这些困扰我两年的 3D 空间问题,”Chavez 说。

Share This Article
Email Copy Link Print
Previous Article gate-crawlers2.jpg?resize=1200,600 网络封闭:AI爬虫大战风险
Next Article Cerebras联手Perplexity,AI超速挑战千亿搜索市场
Leave a Comment Leave a Comment

发表回复 取消回复

您的邮箱地址不会被公开。 必填项已用 * 标注

最新内容
乘联会:2025年4月国内乘用车零售175.5万辆,同比增长14.5%
报告
卡塔尔航空:2025财年利润21.5亿美元创纪录
报告
4月中大型轿车销量榜:小米SU7登顶 超越奥迪A6L、奔驰E级和宝马5系
中汽数研:2025年4月中大型轿车销量 小米SU7登顶
报告
威尔逊:2025年3月BBA车主置换首选特斯拉占比14%
报告
Continue Reading
前途科技

前途科技是一个致力于提供全球最新科技资讯的专业网站。我们以实时更新的方式,为用户呈现来自世界各地的科技新闻和深度分析,涵盖从技术创新到企业发展等多方面内容。专注于为用户提供高质量的科技创业新闻和行业动态。

分类

  • AI
  • 初创

快速链接

  • 阅读历史
  • 我的关注
  • 我的收藏
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
前途科技
Username or Email Address
Password

Lost your password?