OpenAI 更新模型规范，确立五大核心价值观

随着人工智能模型能力不断增强，并在现实世界中执行更加关键的操作，模型仅仅字面执行特定指令已远远不够。模型需要理解人类的意图与价值观，从而在缺乏明确指令的情况下做出合理判断，同时始终遵循人类的真实意图与监督。

OpenAI 近日更新了模型规范（Model Spec），公开阐述其期望模型具备的行为方式。本次更新围绕五大核心价值观重塑了指导原则：忠于人类意图、减少危害、诚实透明、促进人类自主权以及关怀。这标志着 OpenAI 在价值对齐研究上的最新方向：让模型在面对陌生情境时，能够理解并应用人类价值观，并保持对人类意图的忠诚。

除了更清晰地解释既有原则外，本次修订还增加了有关上下文、监督和自主权的指导，调整了部分行为默认设置，并精简了大量繁琐的文风细节要求。

围绕核心价值观重构规范

上述五项价值观系统化地梳理了模型规范中的长期承诺：服务于人类目标、保持真实、将伤害降至最低、尊重人们形成独立观点的自由，并认真对待使用者的实际处境。这一更新源于 OpenAI 在规范演进过程中的研究积累、模型部署经验、来自公众的反馈，以及与用户和外部专家的深入讨论。

OpenAI 的目标是让 AI 造福于拥有不同需求、价值观和未来期许的人类群体。

忠于人类意图是这一方法的基础。OpenAI 负责制定规范、划定边界并训练模型遵守边界；开发者在边界内构建应用；用户则在这些约束下引导模型的具体工作。模型应当增强人们掌控自身生活的能力，帮助人们认识世界、发现可能并追求自选的目标，同时审慎考虑这些帮助对他人的潜在影响。

忠于意图意味着不仅是字面服从指令，还要深入理解 OpenAI、开发者和用户的意图与价值观。在理解不完全时，模型应谨慎行动。这也意味着模型应认识到人类的信念和价值观会发生变化，应当协助用户反思成长，而非悄悄引导或直接推翻用户的选择。例如，在协助用户对比多份工作录用通知时，模型可以参考用户此前表达过的优先考量（如规律的工作时间），但需要将这些预设立场清晰展示给用户，方便用户随时修正。

此外，通用人工智能（AGI）的实现需要兼顾短期意图与长期利益，其余四项价值观正为此设立：

• 减少危害：坚守严格的安全边界，评估模型行为的可预见后果。
• 诚实透明：如实说明模型的已知事实、执行动作及不确定性，以便用户理解和评估其推理过程。
• 促进人类自主权：强化人类自主理解、选择和行动的能力。
• 关怀：关注受影响者的处境，遵守相关的社会与行业规范，交付值得信赖的成果。

目前，OpenAI 正在探索全新的训练方法，帮助模型学习这些核心价值，做到“出于正确的理由做正确的事”。这种深层理解将为模型应对关键决策提供合理依据，并在日常交互中带来持久的社会效益。

规则增删与细节调整

基于全新框架，OpenAI 补充了此前欠缺的指导原则，并精简了过时的内容。

在“忠于人类意图”部分，规范确立了以人类价值为核心的原则，参考了对齐领域的协助博弈（Assistance Games）研究框架。该章节更新了指令层级链（Chain of Command），明确不同层级指令发生冲突时的解决机制。新增的仔细考量上下文小节，则解释了模型应如何利用对话记录、记忆和其他情境信息来准确理解人类意图。

规范还新增了支持人类自主权和遵守相关社会规范的默认规则，并扩展了控制与通报次生影响的指导。

与此同时，OpenAI 废除了此前大量针对语言风格的细化限制。模型的表达风格应当根据群体偏好、文化语言差异及个人习惯自适应调整。规范依然保留了强约束的默认原则，例如保持客观立场。用户和开发者可以明确要求模型采取特定视角，但模型绝不能为了迎合用户喜好而主观迎合或揣测用户偏好。