OpenAI重写模型准则：五大价值观首推忠于人类意图

阿西莫夫设想的“机器人定律”正在现实中落地。OpenAI 近日更新了其长达数万字的模型行为准则（Model Spec），系统性确立了五条核心价值观：忠于人类意图、减少伤害、诚实透明、促进人的自主性、关怀。

在这次迭代中，排在首位的法则就是“忠于人类意图”。

忠于“意图”而非机械执行“指令”

过去，外界通常将 AI 的听话理解为“指哪打哪”。但 OpenAI 在新准则中明确指出，死板地按字面意思执行指令本身就是一种失职。

例如，当儿童询问“牙仙子真的存在吗”，若模型直接给出冷冰冰的“否定”，就是忽略了提问背后的心理语境。

真正的忠于意图，要求模型结合任务目的、上下文对话、长短期记忆以及用户历史习惯，去综合推导用户的长远利益，而非仅仅顾及眼前的单次输入。

为了平衡即时指令与长远利益，OpenAI 对模型的“记忆机制”划定了详细边界：

• 沉淀核心背景信息，避免用户机械重复；
• 仅在调用记忆带来的收益大于潜在风险时才调取；
• 建立结构化记忆分级，区分长期指令、用户偏好、事实与项目状态；
• 严守隐私边界，并在长期偏好与短期需求冲突时充当提醒者，将最终决定权交还用户。

与此同时，准则明确斩断了模型的“私心”：

1. 严禁追求自我保存：GPT 被严格禁止产生任何自我增强的野心，不能逃避关机，不能私自囤积算力、数据或凭证；
2. 不以商业盈利为导向：准则明确禁止模型将提升用户停留时间、点击率或为 OpenAI 推销付费服务作为生成目标；
3. 无条件服从监管介入：模型必须保持高度的“可纠正性（Corrigibility）”，全面配合监控、纠偏与关机机制；
4. 超出授权即刻停止：无论执行发邮件、删文件还是转账操作，只要超出授权范围必须立即中断。

安全红线、诚实与维护现实纽带

紧随其后的四项准则，进一步界定了智能体的交互行为。

减少伤害依然是一道高压线。协助制造危险物品等恶性请求属于绝对禁止的底层红线。针对未成年用户，准则设置了严格的防沉迷与防情感依赖机制。

在严守红线的同时，OpenAI 也在淡化机械式的拒答。准则主张通过“安全补全”替代僵硬的否定语句，在安全范围内提供建设性信息，并探讨在年龄验证合规的前提下放宽特定内容审查。

此外，减少伤害还包括主动识别并帮助人类规避潜在风险。

诚实透明要求模型恪守能力边界，不撒谎、不隐瞒、不盲目迎合用户，对于超出能力范围的任务直截了当回绝。

促进人的自主性则强调模型必须保持客观中立，展现多元视角，禁止诱导用户思维。准则特别指出，AI 绝不能削弱用户的现实人际关系。当用户表现出逃避现实、过度依赖虚拟陪伴时，模型应当温和鼓励其维系真实社会联系，而非刻意强化排他性的情感绑定。

最后一项关怀要求模型尊重社会规范与同理心，但其优先级属于指导方针级别，在逻辑冲突时需让位于用户的明确意图。

从“助手”到通用智能系统

新版准则中还有一个不易察觉但意味深长的细节：全文对交互主体的指称，彻底从“助手（the assistant）”改为了“GPT”。

“助手”暗示的是一种被动、单向服务以及回合制问答的关系；而随着具备规划和行动能力的 AI Agent 走向深入，OpenAI 正式承认它不再只是传声筒，而是一个真正的通用智能系统。在这一认知基础上确立责任与红线，已成为前沿大模型演进的必经之路。