AIToday
大規模言語モデルAI安全性・アラインメントOpenAI Blog掲載日時: 2026年11月17日 4:00

OpenAI、4独立評価機関に内部モデル公開へ

LINEで送る
OpenAI、4独立評価機関に内部モデル公開へ

3つのポイント

  1. 何が起きたか

    OpenAIはApollo Research、METR、Transluce、Goodfireの4独立評価機関と契約し、第1フェーズでチェックポイント、ソースコード、学習・評価データ、監視システムへのアクセスを付与した。

  2. なぜ重要か

    外部専門家が長期間にわたりアラインメントやセーフガードを検証し、OpenAIが想定しなかった不備を明らかにできる。公開報告によりリスク管理の実態が外部から見えやすくなる。

誰に効くかOpenAIの安全・政策チームと外部評価機関は構造化されたアクセスと公表権を得る。知見はOpenAI内部の研究者と監督機関向けで、公開報告は外部が同社の安全活動をどう評価するかに資する。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

OpenAIはこのプログラムを、従来の第三者評価の取り組みを超える一歩と位置づける。同社によれば、組み込み評価は外部評価者との長年の協働の蓄積に基づく。内部監視システムについて深い内部アクセスを得て最近実施したパイロット評価や、Hugging Faceのインシデントに関する調査も含まれる。White House Accord on Super Intelligenceで約束した安全策の独立評価への公約とも結びつけている。

示された手続きからは、OpenAIが開放性と統制のバランスを取ろうとしていることがうかがえる。機密性の高い情報を必要とする評価者は、OpenAIのオフィスでOpenAIの端末を使ってオンサイトで作業し、少なくともOpenAI従業員と同じセキュリティ基準に従うことが求められる。モデルの重みやアーキテクチャなど最も機密性の高いIPが直接アクセスで露出する場合は、評価者を自社研究者と組ませて分析させるなどの代替案を検討するとしている。従業員との議論はオフレコだが、別途の証明経路により評価者はOpenAIが証明した供述を請求できる。

各評価機関の役割は異なる。Goodfireは自社プラットフォームを使う解釈可能性研究者を常駐させ、モデル内部を分析する。主な対象はOpenAI内部の研究者だ。METRは2つの評価を行う予定で、1つはOpenAI史上最大の強化学習実行における不整合行動について、もう1つは監視評価で、範囲について相互合意待ちだとOpenAIは述べる。Transluceは学習後アラインメント評価の品質と網羅性を検証する。OpenAIはこの第1フェーズが長期的で継続的な組み込み型の関与につながると見込み、安全フレームワークへの準拠や組織文化・プロセスの将来評価も検討しているという。

よくある質問
組み込み評価機関は具体的に何を見られるのか。
各評価の必要性に応じ、評価機関はOpenAIの研究者が使う内部資源の一部へのアクセスを得る。モデルのチェックポイント、ソースコード、学習・評価データ、監視システム、技術文書、担当研究者・エンジニアとの議論などだ。
Apollo Researchは何を評価するのか。
Apollo Researchは、モデルが開発者の意図に反して密かに行動し得るか、OpenAIのセーフガードがそうした行動を検知できるかを評価する。2段階で4つの主張を検証し、学習が破壊的行動を促していないことや、破壊的行動の推論が検知可能であることなどが含まれる。
OpenAIは評価機関の公表を阻止できるのか。
評価機関は評価結果の公表において独立性を保つが、OpenAIは機密情報の墨塗り権を留保し、セキュリティや安全上のリスクとなり得る知見への対応や残存する問題の修正のため、責任ある開示の遅延を要請することがある。
OpenAI内部でこの評価を監督するのは誰か。
OpenAI Foundation理事会の独立監督委員会であるSafety and Security Committee(SSC)が組み込み評価を把握し、墨塗りなしの報告書を受け取る。未解決の意見対立はSSCに付託される。
LINEで送る

TechCrunch AIも報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

FBI、AI hackingツールArtexで3時間未満の侵入と警告

FBIは、ハッカーがオープンソースのAIペネトレーションテストツールArtexを使い、ConnectWiseの顧客と韓国の金融機関に侵入し、少なくとも68,000人の個人データを窃取したと発表した

NEWTechCrunch AI1時間前

Sam Altman、フアン氏不在でもAI業界は大丈夫

月曜のSemafor主催イベント「Silicon Valley and the World」で、OpenAI CEOのサム・アルトマン氏は、中国のスパイとされる人物との不倫を認めて先週Nvidiaを辞任したジェンスン・フ…

NEWTechCrunch AI1時間前

OpenAI、CSAM検出の新画像分類器 指摘画像48%減

OpenAIはAI生成画像を含むCSAMを検出する画像分類器を公開し、一部企業に無料でAPIアクセスを提供

NEWTechCrunch AI1時間前

OpenAI、研究者20万人にChatGPT無料枠拡大

OpenAIは「ChatGPT for Academic Researchers」を最大20万人の研究者に拡大し、11月23日月曜日に5万件の新規付与を先着順で開始する

NEWOpenAI Blog1時間前

Pax Silica用地、先住民と農民数百人が立ち退きへ

ヒューマン・ライツ・ウォッチは11月16日、タルラック州カパスにある1,618ヘクタールのPax Silica用地で先住民と農民の数百人が立ち退きを迫られると述べた

NEWAI Weekly4時間前

Audible、AI要約で作品選びを支援

Audibleは、AI支援による要約機能「audio discovery」を開始した

NEWThe Verge AI4時間前
次の記事へ米国、チップの「遠隔アクセス」抜け穴封鎖へ