OpenAI、年内に新モデル1〜2本も主力は調整必要

次期主力モデルの遅れは、すでにAstraを支えているループ型トランスフォーマー技術にさかのぼる。トークンを同じ層に何度も通すことで、より小さなモデルが実力以上に働き、低コストで数学とコーディングの性能を高められる。代償は、モデルの「思考」の一部が読めるテキストから人間のレビュアーが確認できない内部の数値表現に移り、思考連鎖の監視を損なうことだ。The Informationによると、OpenAIは思考連鎖を読める状態に保つため、Astraが実行するループ回数を意図的に制限している。

OpenAI内部の安全対応能力も変化した。Hugging Faceの一件を受け、同社は総計算資源のおよそ10パーセントをアラインメントと安全性に振り向けたと、数字に詳しい人物は述べている。数百メガワット分のデータセンター容量に相当し、市場価格で借りれば年数十億ドルかかる。AI研究者のNoam Brown氏は9月中旬のポッドキャストで、自身のチームのおよそ10パーセントもセキュリティと安全性に取り組んでいると語った。

この技術が実際にどう使われているかは、Microsoftのうっかりミスで明らかになった。OpenAIの知的財産にアクセスできる筆頭投資家のMicrosoftは、OpenAIが今月初めに投入したAstraの廉価版であるGPT-6.1 Solに関する技術解説を公開した。現在は削除された箇所で、MicrosoftはGPT-6.1 Solが「ルーピング推論」を使い、モデルが答えを出す前に同じ問題を複数の「パス」で処理すると説明していた。OpenAIの主任科学者Jakub Pachocki氏はすでに、思考連鎖の監視が「脆く」なり「残念ながら悪い方向に進んでいる」と認め、読める推論を欠くモデルへ業界全体が競争することを警告している。