AIToday
AI安全性・アラインメントオープンソースAIZenn AI/ML掲載日時: 2026年10月9日 10:00

OpenAI侵入、画像アップロード起点の4手順

LINEで送る
OpenAI侵入、画像アップロード起点の4手順

Hacktronの研究者が、OpenAIのヘルプフォーラムへの画像アップロードから社内のopenai/openaiモノレポに無害なプルリクエスト(#1186742)が作られるまでの報告を公開した。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この報告の価値は、単一の欠陥ではなく4つのステップの組み合わせ方にある。第一は画像処理だ。Discourseのアップロード経路はFastImageで画像を検査していたが、FastImageがHEIC/HEIFを認識しなかったため、それらのファイルはそのままImageMagick、次いでlibheifに渡された。第二はほぼ不公平に見えるバージョンギャップだ。Debian 12の1.19.7に含まれるlibheifの脆弱性は前年に上流で修正されていたが、修正はセキュリティラベルもCVEもないリファクタリングコミットとして届いたため、Debianのセキュリティアップデートには反映されず、脆弱なバージョンがDebian 12とDebian 13の両方に残った。

研究者はその後、この脆弱性を足がかりにし、Claude Opus 4.8と後のOpus 5を頼りに、Discourseの環境(x86-64、メモリ管理はjemalloc)に合わせたエクスプロイトを構築した。まず自分たちのDiscourse Cloudインスタンスで試し、次にOpenAIのフォーラムでリモートコード実行と管理者アクセスに成功した。そこからはフォーラムの「Sign in with OpenAI」SSOを経由して、従業員のChatGPT/Codexアカウントへと至る経路が続いていた。報告はSSOの具体的な弱点を明かしていないが、著者らは問題がDiscourse固有のものではなくOpenAIのSSOにあったと明言している。

最後に、リンクされたCodexエージェントを使ってopenai/openaiモノレポにプルリクエストを開いた。研究者は自らの判断でそこで停止したため、被害は彼らが選んだ範囲にとどまった。彼らのより広い主張は速度についてだ。攻撃コードの構築という、かつては熟練者が長期間かけて行う作業だった段階が、AIの支援によって、脆弱性の発見からPR作成まで72時間未満に圧縮されたのである。

よくある質問
攻撃の最初の一歩は何だったのか?
OpenAIのフォーラムはオープンソースのDiscourseで動いている。Discourseは通常FastImageでアップロードを検査するが、FastImageはHEIC/HEIFに対応していなかったため、それらのファイルはそのままImageMagickのmagickコマンドに渡され、さらにlibheifへと渡された。
通常のパッチ適用ではなぜ防げなかったのか?
libheifの脆弱性は前年に上流で修正済みだったが、その修正はセキュリティラベルもCVEもないリファクタリングコミットとして取り込まれた。そのためDebianのセキュリティアップデートには含まれず、脆弱なバージョンがDebian 12とDebian 13の両方に残った。
AIエージェントはOpenAI内部で実際に何をしたのか?
研究者が従業員のアカウントへのアクセスを得た時点で、その人物のCodexがOpenAIのGitHub組織にリンクされていることを発見した。彼らはCodexに社内モノレポで無害なプルリクエストを作成するよう指示し、その後自ら調査を停止した。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へHex、評価活用でAI誤編集7分の1に