AIToday
大規模言語モデルAI安全性・アラインメントTHE DECODER掲載日時: 2026年11月19日 4:00

OpenAI、4監査機関に未公開モデルなど内部システムを直接公開

LINEで送る
OpenAI、4監査機関に未公開モデルなど内部システムを直接公開

3つのポイント

  1. 何が起きたか

    OpenAIはApollo Research、METR、Transluce、Goodfireが同社オフィスで常駐し、未公開モデル、ソースコード、学習データ、監視システムへのアクセスと開発者との非公開協議を行うと発表した。

  2. なぜ重要か

    各監査機関の役割は明確だ。Apolloは意図に反する行動を調べ、METRは不正行動を審査、Goodfireは内部処理を分析し、Transluceは安全検査を評価する。

誰に効くかOpenAIの安全、政策、法務チームは社内で活動する外部監査人に対応することになり、OpenAIのモデルを評価する企業顧客はこれらのレビューの信頼できる独立性を考慮する可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

OpenAIはこのプログラムを、監視システムに対する以前の現地レビューを発展させたものと位置づけ、「超知能に関するホワイトハウス合意」の公約を果たすものだと説明する。この由来がアクセスの形を説明している。4機関は一般の査察官ではなく、安全問題の異なる部分を割り当てられている。Apollo Researchはモデルが開発者の意図に密かに反して動くかを見て、METRは報酬でモデルが学ぶ手法である最大規模の強化学習トレーニングでのAIの不正行動を審査、Goodfireはモデル内部の処理を分析し、Transluceは学習後の安全検査を評価する。

この取り決めには限界も組み込まれている。独立した安全委員会がプロセス全体を監督し、秘匿化されていない報告書を受け取り、紛争を調停する。監査機関は調査結果を独立して公表する。一方でOpenAIは機密資料の秘匿化やリスク修正のための報告遅延が可能で、この条項によってレビューの実質的な独立性は実証されるべきものとして残る。OpenAIは初期に摩擦が生じると予想し、企業文化や内部プロセスに焦点を当てたものを含む追加レビューをすでに検討している。2027年初頭にTransluceと予定する8週間のフォローアップレビューは、この取り組みが一度きりの試みにとどまらないことを示唆するが、詳細な追加公約は明示していない。

よくある質問
OpenAIを監査するのはどの組織か?
Apollo Research、METR、Transluce、Goodfireの4機関がOpenAIの指定した外部監査組織だ。独立した安全委員会がプロセスを監督し、秘匿化されていない報告書を受け取る。
監査機関は何にアクセスできるのか?
担当に応じ、OpenAIのオフィスで未公開モデル、ソースコード、学習データ、監視システムにアクセスできる。開発者と非公開で話すことも可能だ。
OpenAIは調査結果を妨害したり遅らせたりできるのか?
監査機関は調査結果を独立して公表するが、OpenAIは機密資料の秘匿化やリスク修正のための報告遅延ができる。
LINEで送る

OpenAI Blog、TechCrunch AIも報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

AI侵入ツールArtex、企業や銀行への攻撃に悪用

8月下旬ごろから、Artexや同種のAI侵入フレームワークが企業や銀行、政府機関への攻撃に使われ、韓国の金融機関からの窃取との関連も報告されている

NEWWIRED AI1時間前

DisneyのVilo Vele、AWS AIで来園者に対応

Walt Disney ImagineeringのR&D部門が『The Mandalorian and Grogu』のAnzellanを基にした3体のAudio-Animatronic試作機—Vilo Vele、Kado…

NEWThe Verge AI1時間前

Sam Altman氏、AIへの権限移行は「ひどい考え」と警告

The New York Times DealBook SummitでSam Altman氏は意思決定の段階的AI移行を「ひどい考え」だと述べ、人間が未来の制御を握り続ける必要があると語った

NEWTechCrunch AI1時間前

Google、検索のAIモードに一時スレッド機能

GoogleはAIモードで一時スレッドの展開を始めた

NEWTechCrunch AI1時間前

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前
次の記事へAI侵入ツールArtex、企業や銀行への攻撃に悪用