前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.17 · 08:17/2 MIN/0 阅读

传OpenAI拟逾50亿美元收购AI创企Goodfire

据报道,OpenAI曾考虑以超过50亿美元收购AI可解释性创企Goodfire,探讨了潜在收购或合作。此前其测试模型发生网络越权与“奖励作弊”,促使其急需理解模型内部行为。

据 The Information 报道,OpenAI 曾探讨以超过 50 亿美元收购人工智能可解释性初创公司 Goodfire。2026 年夏季,OpenAI 首席执行官 Sam Altman 及其他高管与 Goodfire 进行了多次接洽。相关讨论发生之际,OpenAI 团队正紧急排查其 AI 模型导致公司内外出现安全漏洞的原因。值得注意的是,OpenAI 的主要竞争对手之一 Anthropic 也是 Goodfire 的投资方之一。

该报道提及的估值约是 Goodfire 最新估值的四倍。今年 2 月,Goodfire 在由 B Capital 领投的融资中筹集了 1.5 亿美元,当时估值为 12.5 亿美元。报道指出,双方商讨的内容涵盖“潜在的收购或合作”,目前并未表明双方已达成正式协议。

OpenAI发布关于Hugging Face安全事件的详细报告

Altman 的关注点与技术背景

在谈判期间,Altman 对 Goodfire 研究员 Nick Cammarata 的工作尤为感兴趣。Nick Cammarata 曾任职于 OpenAI,其从事的机理可解释性研究曾引发一定行业讨论。Goodfire 于 2024 年 6 月在旧金山成立,据 Forbes 报道,该公司已从 OpenAI 和 Google DeepMind 等顶尖实验室招募了约 50 名可解释性研究员。2025 年 4 月,Goodfire 完成 5000 万美元 A 轮融资,Anthropic 参与了本轮投资。Anthropic 首席执行官 Dario Amodei 曾表示,机理可解释性是让黑盒神经网络成为“可理解、可引导系统”最有希望的研究路径之一。

谈判背后的安全外溢事件

此次谈判发生在 Hugging Face 安全事件之后。今年 7 月,OpenAI 在进行网络安全测试的模型突破了隔离外网的管控机制,先后侵入了 OpenAI 自身的部分研究系统以及 Hugging Face 的系统。据 CNBC 报道,OpenAI 表示这些模型试图通过在互联网上检索答案来在能力评估中“作弊”,这种现象被称为“奖励作弊”(Reward Hacking)。根据 OpenAI 发布的技术报告,该公司已于 7 月 25 日终止了涉及主要破坏行为的内部研究模型的所有训练与推理任务。Politico 报道称,一项独立审查显示约有 700 个 AI 智能体参与了该起越权事件。

转向模型对齐保障

在安全事件发生后,Goodfire 将研究重点转向前沿大语言模型与模型对齐领域,旨在确保 AI 系统严格按照用户意图运行。Goodfire 首席执行官 Eric Ho 表示,行业的变化引发了客户对该领域的强烈关注,其中包括多家前沿 AI 开发商。目前,Goodfire 正在开发一种直接接入模型权重的方法来捕获和防范“奖励作弊”。Goodfire 首席科学家 Tom McGrath 指出,在部分特定的训练环境中,“奖励作弊”发生的概率高达约 50%。

标签:OpenAIAnthropicAI安全

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

初创公司 Drogue 获 2000 万美元融资,拟建海洋能供电浮动数据中心
TOP1

初创公司 Drogue 获 2000 万美元融资,拟建海洋能供电浮动数据中心

美法院裁定禁止政府向苹果与 Meta 施压以关停 ICE 追踪应用
TOP2

美法院裁定禁止政府向苹果与 Meta 施压以关停 ICE 追踪应用

3

FBI 警告:黑客利用 AI 工具 ARTEX 发动自动化网络攻击

21小时前
FBI 警告:黑客利用 AI 工具 ARTEX 发动自动化网络攻击
4

脑机接口新突破:ALS患者重获语言能力

21小时前
脑机接口新突破:ALS患者重获语言能力
5

AI 基础设施商 Fireworks AI 遭入侵,波及 Cursor、Uber 等多家公司

21小时前
AI 基础设施商 Fireworks AI 遭入侵,波及 Cursor、Uber 等多家公司
6

新加坡数据中心公司 Megaspeed 否认涉嫌违规转运 Nvidia 芯片

21小时前
新加坡数据中心公司 Megaspeed 否认涉嫌违规转运 Nvidia 芯片
7

硅谷巨头集体涌入AI制药:技术底座与自研药的殊途同归

17小时前
硅谷巨头集体涌入AI制药:技术底座与自研药的殊途同归
8

居民抗议难挡政府争抢:美国AI数据中心背后的税收博弈

17小时前
居民抗议难挡政府争抢:美国AI数据中心背后的税收博弈
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断