AIToday
AI安全性・アラインメントAIビジネス・産業Zenn AI/ML掲載日時: 2026年11月16日 4:00

Fireworks AIが10月に2度侵害、顧客データ一部に到達

LINEで送る
Fireworks AIが10月に2度侵害、顧客データ一部に到達

3つのポイント

  1. 何が起きたか

    Fireworks AIは2度侵害された。10月6日には第三者が顧客の鍵を評価ジョブの環境変数から読み取り、10月23〜24日には外部クラウド経由で開発マシンに侵入し一部の顧客データセットに到達した。

  2. なぜ重要か

    評価ツールと評価ジョブはすでに削除されたが、第三者の鍵を預けた顧客は発行元で再発行する必要がある。Fireworks側で秘密情報を削除しても無効化されないためだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Fireworksの2度の侵入は異なる経路をたどった。それが影響範囲を特定しにくくしている理由でもある。10月6日の侵害では、強化学習ファインチューニングの評価ジョブ中に、内部資格情報が不正に使われ、限られた数の顧客アカウントの環境変数が読み取られた。そこには顧客が他サービス用に預けたAPIキーやトークンが含まれていた。Fireworksは10月6日に侵入を検知する前の10月1日には新規マネージドRFTジョブの受け付けを停止しており、11月10日までにドキュメントで評価ツールと評価ジョブも削除済みとしていたが、削除時期は明記されていない。

10月23〜24日の侵入は、研究開発マシンをホストする外部クラウド経由で起きた。攻撃者はそこから開発マシンに到達した。CEOの投稿によると、段階的に権限を昇格し、1つのサービスアカウントになりすまして、請求情報や一部の顧客データセット、未完成のモデル重みを含む保存領域の一部に到達した。続報では、この攻撃者を金銭目的で盗んだLLM利用枠を転売するグループLLMJackingと結び付け、請求は鍵の所有者に回るとしている。この変化は文言にも表れている。10月10日の通知は顧客データセットへの不正アクセスは確認されていないとしていたが、11月9日の更新では一部データセットへのアクセスがあったと述べた。

Notionの事例は、推論と保存ジョブの区別がなぜ重要かを示す。推論は応答して終了し、ZDRが対象とする。しかし分類ジョブはFireworks側に記録を置き、2度目の侵入がその保存領域に到達した。NotionはFireworksがこの分析についてZDRを契約上約束していたと述べるが、データは残っており、11月14日時点でFireworksの公的な反応は確認されていない。この件は、多数の顧客鍵を保有する当事者が侵害され、顧客に鍵の再発行を求めたCircleCI(2023年1月開示)やCodecov(2021年)といった過去のサプライチェーン侵害を想起させる。被害は鍵保有者の可視範囲を超えて広がる。

よくある質問
Fireworks AIの事件で影響が確認されているサービスは?
11月14日時点でユーザーへの通知を確認できたのはNotionのみ。CursorとHarveyは名前の言及や通知の報道があったが、13日時点で事業者による発表は確認されていない。
Notionはなぜデータ保持ゼロの約束にもかかわらずFireworksがデータを保持したと述べているのか?
Notionによると、Fireworksは分析についてZDRを契約上約束していたが、データは残っていた。ZDRは推論を対象とするが、分類ジョブはFireworks側に記録を保存し、2度目の侵入がその保存領域に到達した。
10月にインシデントを開示したAI開発プラットフォームはいくつか?
Wizの10月30日の記事は、10月にインシデントを開示したAI開発プラットフォームが少なくとも9社あったとし、「黒い10月」と呼んだ。多くは保存された環境変数、特にAIが利用できる鍵に関わるものだった。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

Fireworksとはどのような会社ですか
Fireworks AIは、公開された重みのAIモデルをGPU上で動かしてAPIとして貸し出す推論基盤を提供する会社です[1]。 ・推論だけでなく、モデルを手直しする学習の場も貸しており、開発者がオープンなAIモデルを利用するためのプラットフォームとも説明されています[1][2]。 ・法務テックのHarveyやAI企業のCursorを含む世界中の数万社が利用しており、NotionもAI機能の計算基盤としてFireworksに委託していました[1][2]。出典Fireworks AIが10月に2度侵害、顧客データ一部に到達(AIToday・2026-11-15)Fireworks AI侵害でNotion顧客の履歴流出(AIToday・2026-11-12)

AITodayのAIによる回答読者15分前

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へNYの新興AI50社、金融・医療機関と強く連携