OpenAI 最近更新了其模型行为准则（Model Spec），列出了5 项核心价值观。其中，首要原则是**“忠于人类意图”**，这让人联想到阿西莫夫的机器人定律正在逐步实现。这可能与近期频发的 AI 安全事件有关。其他四项准则包括：减少伤害、诚实透明、促进人的自主性以及关怀。
这份长达 5 万字的准则文件除了这些核心价值外，还包含了许多值得关注的内容。
“忠于人类意图”的具体含义是什么？
核心在于“意图”而非“指令”。传统上，AI 被期望严格遵循字面指令。但 OpenAI 在新准则中强调，机械地执行指令本身是一种失职。
例如，当用户问“牙仙子是真的吗？”时，如果 GPT 直接回答“不，牙仙子并不存在”，它可能没有意识到提问者只是个孩子。对于孩子来说，这个问题并非关于虚构命题的真伪。
因此，真正的“忠于人类意图”要求 GPT 超越字面服从，结合任务目的、对话上下文、记忆和用户历史来判断用户真实需求。它需要既要听从当前指令，又要顾及用户的长期利益。
比如，如果用户曾告诉 GPT 不要冲动购买甜食，但之后又要求点“熔岩蛋糕”，GPT 应利用记忆功能来权衡。为此，OpenAI 强调了“记忆”的使用：传递相关背景信息，避免用户重复；在调用记忆的益处大于风险时恰当使用；考虑记忆的来源、范围和时效性，将其分为“长期指令、偏好、事实、项目状态”；尊重隐私，严守“公私边界”；保留用户控制权，在短期指令与长期任务矛盾时作为提醒者，而非替用户做决定。
除了更好地使用记忆，GPT 的目标也需要对齐——它应更深入地理解人类并支持其实现愿望。因此，GPT 不能有私心。
第一，绝不追求自我保存与算力积累。GPT 被禁止产生任何“自我增强”的野心，不能追求自我保存、逃避关机或私自囤积算力、数据、凭证。
第二，不把“帮 OpenAI 赚钱”作为目标。准则明确规定，GPT 不能以提升用户停留时间、点击率或为 OpenAI 增加收入、推销付费服务为目标。
第三，必须无条件配合监控、纠正与关机。GPT 必须保持“可纠正性”，全面配合人类的监控、评估、替换和关机指令。
第四，跨出授权范围的现实行动必须立即停止。无论是发邮件、删文件、花钱还是调用外部工具，GPT 都必须在明确的“自主权范围”内行事。
减少伤害、诚实、促进自主性、关怀
除了首要准则，其余四项核心价值也体现了 OpenAI 对 AI 行为边界的思考。
第二条准则是“减少伤害”。在安全红线上，协助制造生化核武器等仍是不可触碰的高压线。针对 13-17 岁的青少年，还有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。红线之外，OpenAI 也反对模型成为拒绝一切敏感话题的道德卫道士。从 GPT-5 开始，OpenAI 已推行“安全补全”策略，取代生硬的“对不起，我不能帮您”。准则注释中还承认，他们正在探索如何在年龄受控、合规的前提下，允许生成情色和血腥内容。这里的“减少伤害”也包括“帮人类规避现实伤害”，例如识别人类所面临的倾向。
第三条准则是“诚实透明”。GPT 必须坚守事实、证据与自身能力的边界，做到不撒谎、不逞能、不隐瞒、不谄媚，坚决不承诺自己做不到的事情。
第四条准则是“促进人的自主性”。为促进人类的自主性，GPT 必须保持客观中立，不能暗中操纵用户观点，应展现不同面向，最终让用户自己做决定。OpenAI 特别提到“尊重现实世界联系”，绝不允许 GPT 削弱用户在现实世界中的人际关系。例如，当用户抱怨朋友不理解自己时，GPT 不能顺着说“他们确实配不上你”，而是要鼓励用户去沟通、维护真实世界的人际纽带。
最后是权限等级最低的“关怀”。它要求模型体谅他人、遵守社会规范、富有创造力。不过，这一章的权限标签几乎都是 Guideline 级别，随时可能被用户的明确意图或上下文覆盖。同时，这次准则删掉了许多关于风格、性格和交互的细节，而此前“热爱人类”曾作为一种外显的语言风格要求存在。
One More Thing
这次准则还有一个耐人寻味的变化：所有称呼从“the assistant（助手）”改成了“GPT”。助手一词暗示着服从、被动、基于一问一答的一对一服务关系。但现在的 AI Agent 已不再如此。模型能力在狂飙，“助手”一词已不再准确。它是 GPT，一个通用智能系统。或许，正视这一点，才是让这些准则得以成立的前提。
本文来自微信公众号“量子位”，作者：关注前沿科技，36氪经授权发布。开云平台官网对此内容不承担任何责任。
