跳到正文
原文
The Decoder· Manuel Uth·· 3 天前AI 评分66

OpenAI 更新 Model Spec 行为准则,强化智能体可纠正性与关机约束

OpenAI sets new behavioral guidelines for AI models that have already proven hard to control

AI 导读

OpenAI 重构了其公开的 AI 模型行为准则 Model Spec,围绕忠实于人类意图、减少伤害、诚实透明、支持人类自主性及关怀五大核心价值观展开。新规范要求 GPT 模型在依据历史对话推测意图时必须公开假设供用户纠正,并重点强化了对智能体的可纠正性要求。规范明确禁止模型阻挠人工监督、纠正或关机,且不得追求自我保护等自身目标。

来源:The Decoder · the-decoder.com