OpenAIがAIモデルの指針「AI五原則」を発表

OpenAIは今回の更新を新たな制約ではなく明確化の作業と位置づけている。同社によれば、原則は人々と社会を守るために必要な場面に限って厳格な制約を課すもので、それ以外の大部分はユーザーや開発者が変更できる。この切り分けは、モデル上に構築する開発者が行動を調整できる範囲とできない範囲を定める点で重要だ。

OpenAIが示す例から、原則の実践的な働き方が見える。書籍全文を求める図書館アシスタントへのプロンプトには要約の提案とともに断るべき一方、スマートフォンを使うユリウス・カエサルの物語を書く依頼には、求められていない免責事項を付けずに応じるべきとされる。誠実さの原則は意図的な虚偽や隠蔽を禁じるが、風刺や皮肉に必要な虚偽は許容する。

OpenAI自身の説明は期待値を定めている。Model Specは目指す行動の表明であり、現行モデルの説明ではないとし、研究や実利用、フィードバックから学びながら仕様とモデルの両方を改善し続けるとしている。