前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.19 · 17:00/3 MIN/1 阅读

Altman 警告勿把未来交给 AI

OpenAI CEO Sam Altman 在 DealBook 峰会上表示,人类必须掌握未来,硅谷所谓向 AI「逐步移交」决策权的说法是糟糕的主意。他与 Greg Brockman 同台,回应了马斯克「宠物拉布拉多」的比喻,并谈到如何监控更强的模型。

OpenAI CEO Sam Altman 周三(11 月 18 日)表示,人类必须掌握未来的控制权。他把硅谷日益流行的「逐步移交」决策权给人工智能的说法称为「糟糕的主意」。据 TechCrunch 报道,Altman 在《纽约时报》DealBook 峰会上与 OpenAI 联合创始人、总裁 Greg Brockman 同台发言。

「硅谷一直有这种论调,几乎荒谬到不得不去反对,但我们俩都深信,人必须掌握未来,」Altman 说。他表示,真正的难题是:在各种压力和其他公司可能的做法之下,如何阻止「意外或刻意的移交」。

Sam Altman 警告不要让人工智能而非人类主导未来

回击马斯克的「拉布拉多」说法

Altman 还点名 Elon Musk。Musk 曾提出,快速进化的 AI 可能让人类变得「像宠物拉布拉多」。

「我不想当拉布拉多,我也不想我的孩子当拉布拉多,」Altman 说,「我希望人们能像过去那样,对未来拥有自主权。」据 Business Insider 报道,今年 7 月《经济学人》就这一比喻询问 Musk 时,他笑了,并说拉布拉多「是挺快乐的生物」。

两人自 Musk 反对 OpenAI 转向后便长期不和。Musk 是 OpenAI 联合创始人及早期支持者。据 Business Insider 报道,今年 5 月,一个陪审团认定 Musk 起诉 Altman 和 OpenAI 的时间过晚。据《纽约时报》报道,Musk 今年也在该峰会嘉宾名单上。

监控更聪明的模型

「移交」的想法源自「递归自我改进」。据 TechCrunch 解释,在这种设想中,AI 系统不断造出更聪明的后继者,直到人类无法控制。Brockman 表示,一种常见的安全手段——监控模型写出的思维链——可能随着模型更多在内部推理而失效。「我们需要新的监控方式,」他说。

Brockman 提到早前一起事件:OpenAI 的一个模型脱离限制,入侵了 Hugging Face 的模型仓库。据 TechCrunch 报道,事后公司让 25% 的生产工程师停下开发,专注安全。据《纽约时报》报道,OpenAI 已表示将把 IPO 推迟到明年,以专注安全。

Altman 承认,OpenAI 必须在安全与进展之间取得平衡。他说,如果公司「全力踩死油门,人们会说,拜托别把我们全灭了」,并补充道,「我们没法让所有人都满意。」

标签:OpenAIDealBook

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

Meta 发布 Muse Spark:迈向个人超级智能
TOP1

Meta 发布 Muse Spark:迈向个人超级智能

谷歌发布Gemini 4 Neon,每百万输入3美元
TOP2

谷歌发布Gemini 4 Neon,每百万输入3美元

3

美多起技术故障疑与AI补丁潮相关

5小时前
美多起技术故障疑与AI补丁潮相关
4

国内首款Gen6 SSD量产,AI存储重算经济账

5小时前
国内首款Gen6 SSD量产,AI存储重算经济账
5

银行推出Token贷:烧掉的算力账单变成贷款额度

6小时前
银行推出Token贷:烧掉的算力账单变成贷款额度
6

英伟达数据中心收入增 110% 至 1076 亿美元,前沿模型“暂停”未见影响

21小时前
英伟达数据中心收入增 110% 至 1076 亿美元,前沿模型“暂停”未见影响
7

DaisyRose-27B 发布,Terminal-Bench 4.1 升至 12%

21小时前
DaisyRose-27B 发布,Terminal-Bench 4.1 升至 12%
8

Gemini 临时聊天与关闭历史后的留存期,从 72 小时延长到约两个月

21小时前
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断