
何が起きたか
OpenAIは7月1日から、モデルの保護された推論を抽出する組織的な試みを検知した。7月24~25日に16,000件のリクエストを確認し、7月28日までに完全に遮断した。
なぜ重要か
確認された規模から、単なる偶発的な誤用ではなく組織的で大規模な試みだったと考えられる。遮断により保護された推論が他モデルへ複製されるのを防いだ可能性が高い。
注目点
OpenAIは調査を続け、Frontier Model Forumを通じて業界パートナーと知見を共有していると述べる。同様の攻撃に対し防御が有効かが今後の焦点となる。
誰に効くか大規模AIモデルの提供者とそのセキュリティチームは、保護された推論を複製する組織的な試みを検知し停止する必要性に繰り返し直面する。OpenAIの事例は、こうした攻撃が急速に拡大し得ることを示している。
こういう要約が、毎朝あなたのメールに届きます。
OpenAIはこの活動を利用規約違反に当たると説明する。あるモデルの出力や推論を、組織的かつ無断で別のモデルの訓練・再現・改善に使う行為で、同社が「敵対的蒸留」と呼ぶものだ。大規模モデルの知識を小規模モデルへ移す正当な蒸留とは異なる。
攻撃の規模は7月を通じて拡大した。7月1日には少量だった活動が膨らみ、後にユーザー群全体で関連するプロンプトパターンを確認したとOpenAIは述べる。7月28日までに完全に遮断したという。
OpenAIは対策と調査を続けている。防御が有効かどうかは、こうしたパターンをいかに早く検知し業界全体で共有できるかにかかるとみられ、同社がFrontier Model Forumを通じてパートナーに知見を渡している理由でもある。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
Fierce Networkは、AIエージェントが本番環境で稼働しており、十分な監督なしに活動している可能性を示唆していると報じた

VerizonのCEO、Dan Schulman氏は、顧客対応におけるAIが顧客体験を人より1200ベーシスポイント以上改善すると述べ、顧客にとって良いならVerizonは導入すべきだと語った

CrowdStrikeは「Frost Radar™: AI Security Operations Centers, 2026」でVisionary Leaderに選ばれ、Growth Indexで最高位に位置付けられた

Uber Engineeringは3層の枠組みを詳述した

ServiceNowはCopilot Studioを採用し、Microsoft AIエージェント作成ポータルを開始した

SpendHQ、T-Mobile、UiPath、AccurisがProcurement Magazineの倫理的AIガバナンスに関する記事で取り上げられた
