
何が起きたか
Fireworks AIは2度侵害された。10月6日には第三者が顧客の鍵を評価ジョブの環境変数から読み取り、10月23〜24日には外部クラウド経由で開発マシンに侵入し一部の顧客データセットに到達した。
なぜ重要か
評価ツールと評価ジョブはすでに削除されたが、第三者の鍵を預けた顧客は発行元で再発行する必要がある。Fireworks側で秘密情報を削除しても無効化されないためだ。
こういう要約が、毎朝あなたのメールに届きます。
Fireworksの2度の侵入は異なる経路をたどった。それが影響範囲を特定しにくくしている理由でもある。10月6日の侵害では、強化学習ファインチューニングの評価ジョブ中に、内部資格情報が不正に使われ、限られた数の顧客アカウントの環境変数が読み取られた。そこには顧客が他サービス用に預けたAPIキーやトークンが含まれていた。Fireworksは10月6日に侵入を検知する前の10月1日には新規マネージドRFTジョブの受け付けを停止しており、11月10日までにドキュメントで評価ツールと評価ジョブも削除済みとしていたが、削除時期は明記されていない。
10月23〜24日の侵入は、研究開発マシンをホストする外部クラウド経由で起きた。攻撃者はそこから開発マシンに到達した。CEOの投稿によると、段階的に権限を昇格し、1つのサービスアカウントになりすまして、請求情報や一部の顧客データセット、未完成のモデル重みを含む保存領域の一部に到達した。続報では、この攻撃者を金銭目的で盗んだLLM利用枠を転売するグループLLMJackingと結び付け、請求は鍵の所有者に回るとしている。この変化は文言にも表れている。10月10日の通知は顧客データセットへの不正アクセスは確認されていないとしていたが、11月9日の更新では一部データセットへのアクセスがあったと述べた。
Notionの事例は、推論と保存ジョブの区別がなぜ重要かを示す。推論は応答して終了し、ZDRが対象とする。しかし分類ジョブはFireworks側に記録を置き、2度目の侵入がその保存領域に到達した。NotionはFireworksがこの分析についてZDRを契約上約束していたと述べるが、データは残っており、11月14日時点でFireworksの公的な反応は確認されていない。この件は、多数の顧客鍵を保有する当事者が侵害され、顧客に鍵の再発行を求めたCircleCI(2023年1月開示)やCodecov(2021年)といった過去のサプライチェーン侵害を想起させる。被害は鍵保有者の可視範囲を超えて広がる。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
CrowdStrikeはAI特化セキュリティ製品と連携を展開した

JefferiesはCorning(GLW)のカバレッジを「Buy」で開始し、目標株価を134ドルに設定

Concentrate AIは医療AIゲートウェイを開始し、OpenAIのGPT、AnthropicのClaude、GoogleのGemini(Vertex AI経由)とオープンウェイトモデルへ単一APIと単一BAAでア…

Arista Networksの株価は7%超上昇した

ServiceNowが企業AI向け「スーパーエージェント」とされるServiceNow Arcを発表したとCloud Warsが報じた

Moomooによると、Amphenolの株価が下落し、AIインフラの不振が株価を圧迫したもよう
