OpenAIがModel Specを5つの価値観で更新

今回の更新は、Specを行動ルールの一覧から価値観に基づく枠組みへと再定義するもので、OpenAIによれば、指示が明示的に扱っていない状況でモデルが判断を働かせられるようにする狙いがある。5つの価値観は相互に関連するものとして示されている。人間の意図への忠実さが土台となり、残る4つは、人工汎用知能が全人類に恩恵をもたらすことを目指すOpenAIの使命から導かれる長期的な利益と他者への影響を明示する。

改訂はSpecの構造も変える。人間の意図への忠実さに関する新たな節には、どの指示が適用され、対立がどう解決されるかを説明する更新された命令系統と、会話や記憶からの文脈を考慮する小節が組み込まれた。人間の主体性の支援や社会規範の遵守に関する新たな既定値が設けられ、副作用の制御に関する既存の指針も拡充された。同時に、スタイル指針の大半を廃止したことで、Specは規定のルールが減り、ユーザーのフィードバックや文脈が好みを決める余地が広がった。

OpenAIは、Model Specは目指している望ましい挙動を記述したもので、モデルはまだ完全には反映していないと注記する。また、モデルが原則に従うだけでなく、なぜそれが重要かを理解できるよう促す新たな学習手法を模索中で、結果は今後の更新で共有するとしている。Spec内ではモデルを「the assistant」ではなく「GPT」と呼ぶようになり、より広範な用途を反映している。