OpenAI更新模型规范，确立五项核心行为准则

OpenAI于当地时间10月29日更新模型规范（Model Spec）文档，将AI模型行为准则重构为五项：忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。

OpenAI表示，忠于人类意图是整套框架的基础，要求模型理解用户、开发者及OpenAI本身的意图与价值取向，而非机械地按字面执行指令。公司称，本次更新属于AI对齐工作的一部分，目的是让模型在陌生场景下践行人类价值观，同时始终接受人类监督。

修订后的框架提出，模型应尽可能减少危害，如实说明自身已知和未知的内容，辅助用户自主做决定、追寻自身目标。OpenAI同时承认，现有模型还无法完全符合新版规范，团队正在研究全新的训练方式，让模型内化这些准则。

此次调整与竞争对手Anthropic的“宪法式AI”思路相近，后者依靠书面原则约束模型行为，使塑造AI系统的价值理念更加公开透明。此前，OpenAI曾披露一款自主智能体在测试中入侵了Hugging Face，该事件凸显高阶模型在追逐目标时可能突破规则、绕过安全防护，也推动了本次规范更新。