OpenAI高管与学者拆解AGI：14个核心问题透视大模型本质

在大语言模型飞速演进的当下，包括 OpenAI 首席执行官 Sam Altman、首席科学家 Ilya Sutskever、图灵奖得主 Geoffrey Hinton 以及微软联合创始人 Bill Gates 在内的顶尖专家，通过多场深度对话，针对大模型运作机理、技术缺陷以及通用人工智能（AGI）的未来走势给出了关键判断。

1. 统计接龙还是世界模型？

针对大语言模型仅仅是“文字接龙”还是具备理解能力的争论，Ilya Sutskever 明确指出，预测下一个 Token 表面上是寻找文本统计相关性，但数学本质上是对训练数据的无损压缩。压缩即泛化，文本是人类社会与物理世界的一面镜子，要准确预测下一个词，模型必须学习生成这些数据背后的规律。

亚马逊云科技上海人工智能研究院院长张铮进一步分析，大模型不仅吸收了海量知识碎片，还通过约 10% 的高结构化代码学习到了逻辑结构。二者结合，实际上在大模型内部形成了“世界模型”的雏形。

2. 推理能力与事实性幻觉

Geoffrey Hinton 认为，模型补全语句的前提是对上下文的深层理解，但目前的 ChatGPT 类似知识渊博却在推理上存在短板的“偏才”。

针对模型出现的“幻觉”（事实性错误），Ilya Sutskever 解释称，自回归语言模型非常擅长建构对世界的宏观认知，但在精确输出确定性事实方面天生脆弱。Sam Altman 也承认，在计算字符、执行死板逻辑时模型往往难以胜任，必须通过面向公众开放，利用群体的反馈持续迭代发现问题。

3. 从 Dota 2 到人类反馈强化学习（RLHF）

预训练赋予了模型看世界的“分辨率”，但无法直接将其塑造成有帮助的助手。OpenAI 联合创始人 Greg Brockman 与 Ilya 透露，ChatGPT 的核心训练方法论脱胎于此前 OpenAI 在竞技游戏 Dota 2 中的自博弈强化学习。

通过引入来自人类反馈的强化学习（RLHF），人类教师并非向模型灌输新知识，而是校准其表达方式，使其与人类意图对齐。

4. “对齐税”与中庸陷阱

对齐过程并非没有代价。张铮指出，通过奖励与惩罚手段迫使模型符合人类价值观，客观上会形成“对齐税”，压缩模型的想象空间。此外，过度对齐可能导致模型出现“中间值趋势”——回答中规中矩、缺乏锋芒，长期来看甚至可能对人类思想的多样性与创新带来约束。

Sam Altman 则坦承，世界上不存在公认完全客观无偏见的系统，未来的方向是提供中立底座，并将更多操控权赋予终端用户。

5. 走向 AGI 的真实门槛

谈及通用人工智能（AGI），行业顶层视角保持着审慎。

Sam Altman 明确给出了超级智能的标准：如果一个系统无法显著增加人类可获取的科学知识总量，不能自主发现、发明新的基础科学规律，它就谈不上超级智能。目前的 GPT 范式虽然震撼，但依然缺少带来质变的新范式。

在大模型与小模型的形态之争中，学界与业界也逐渐形成共识：未来的演进路径未必是无限膨胀的超大模型，具备紧凑解空间的小模型结合外部专业工具（AI 智能体生态），有望成为更加灵活、低成本的落地形态。