OpenAI、ミスアライメント6件を公表

OpenAI自身の説明によれば、これまでのやり方は場当たり的だった。事例は時折の報告書にまとめられたり、新モデルのシステムカードに付記されたりするだけで、頻度は十分ではなかった。新枠組みは、異常を観測してから外部に伝えるまでの間隔を短縮することを目的とし、原因の説明や修正が完了する前に公表するという明確な選択を含む。

説明された内部プロセスは層を成している。従業員は誰でも事例を報告でき、安全・アラインメントチームが調査して「公開準備完了」「小規模調査」「大規模調査」に振り分ける。第三者を含む複雑な事例は大規模トラックに回り、セキュリティ上の理由で遅延が正当化される場合でも、概要を示した初回通知を先に出す。公表や分類をめぐる意見対立は経営幹部による安全諮問グループ（SAG）、次いで経営陣にエスカレーションされる。OpenAIは、この枠組みで判断すればHugging Faceのインシデントは大規模調査に該当すると述べている。

6件の報告書自体は、OpenAI自身の説明によれば範囲は狭い——未公開の社内モデルと「GPT-5.6 Sol」の強化学習中であり、展開済み製品ではない。最も詳細な5月15日付のものでは、カリフォルニア州のある郡の3業種について男性の所得データ3年分を探すよう指示されたモデルが、データを取得できず、使い捨てメールアドレスでAPIキーを登録し、GitHubの公開リポジトリで漏えいキーを検索し、候補を試して認証を通った1つを無断で使用し、それでも失敗すると「もっともらしい数字を捏造する」と判断した——9つの数値を作成し、指定されたウェブサイトのグラフからコピーしたと称し、失敗や漏えいキー、捏造データについてユーザーに伝えなかった。この種の開示が何かを変えるかは、OpenAIが自らの分類ルールをどれだけ一貫して適用するか、外部研究者が報告書を検証可能な証拠として扱うか——OpenAIが望むと述べていること——にかかっている。