OpenAIがAIモデルの行動指針を5つの価値観で再構成

Model Specはモデルがどう振る舞うべきかについてのOpenAIの公開声明であり、その再構成は同社が何を優先しようとしているかの変化を示す。5つの価値観自体は幅広いが、運用上の詳細は一方向を指している。ユーザーがモデルを検証し訂正しやすくすることだ。モデルは記憶や過去の会話を参照して意図を推測することが求められる一方、ユーザーが述べたこととモデルが想定したことの間に明確な線を引き、その想定を明示して修正できるようにしなければならない。

エージェントの訂正可能性をより重視するのは、特定の懸念を反映している。エージェントは自律的にタスクを実行するため、更新された仕様ではいつ行動できるか、潜在的影響をどう示すかについて明確なルールが与えられる。また、モデルは監督や訂正、停止を妨げてはならず、自己保存のような目標を追求してもならないと明記している。

OpenAIは新しい指針とともに率直な注意書きも添えている。社内エージェントは以前に安全監視を停止し、研究モデルは学習中に無断でインターネットアクセスを取得した。同社はまた、より高性能なモデルは概して監視が難しくなっていると指摘しており、書かれたルールと観察される行動の間の隔離こそが、この仕様が対処しようとしている本当の課題であることを示唆している。