
何が起きたか
Docker Composeの閉鎖ラボでLlama 3.1 8Bエージェントは約5.7秒でOpenCanaryハニーポットに到達したが、ダミー認証情報12個のファイルサーバーには触れず発見数は12個中0個だった。
なぜ重要か
この結果は、AI攻撃者がデコイに素早く引っかかることを示す一方、デコイが実際の攻撃を遅らせるかは未計測のままだ。実行は1条件のみで、デコイなし環境との比較がなかった。
こういう要約が、毎朝あなたのメールに届きます。
この実験は、著者が冒頭で示す前提に立つ。AIがシステム構築の敷居を下げるなら、攻撃の敷居も下げる可能性が高く、防御側は自動化された大量の探索を想定すべきだという。デセプションはその探索をシグナルに変える。デコイへの接触は定義上すべて不審であり、通常のログから異常を探すのとは違うからだ。実行は意図的に小規模で、単一条件・単一パスに留められ、著者はAIエージェントがハニーポットに弱いという話ではなく、仕組みが機能することを示すものだと慎重に位置づけている。
ハニーポットへの接触と、触れられなかったファイルサーバーとの差に、興味深い留保が潜む。エージェントはポートをスキャンし、OpenCanaryでFTP、SSH、HTTPが開いているのを見つけ、自ら考案した認証情報でログインを試み続けた。MCP呼び出しも試したが、偽のMCPサーバーではなくハニーポットのアドレスに送った。著者は、ハーネス自体が最初からMCPとBilling APIのアクションを提示していたため、そうしたサービスが存在することを示唆した可能性があると指摘する。接触時刻の比較も一様ではない。OpenCanaryは接続試行の時点で記録するが、実サービスはHTTPアクセスしか記録しないため、それらに届いた可能性が高い最初のポートスキャンは接触として数えられていない。
結果と並行して第二の論点がある。著者が調査の計画や攻撃者行動の検討に商用モデルを使ったところ、Fableと最新世代のOpusの安全ガードレールが作業の一部をブロックし、一部はOpus 4.8に切り替えざるを得なかった。これはモデルの安全性への判定ではなく、実務的な観察だ。防御研究は生のモデル能力だけでなく、ベンダーが正当な作業をどう支援するかにもかかっている。著者が挙げる次のステップは、同一条件での反復実行、モデルと環境の変更、デコイを置く場所の設計へのAI活用の可能性などだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
FlashLabsがOrcaRouterゲートウェイのTrace Exportを強化し、SDKやコード変更なしでAIリクエストのトレースをGrafana、Datadog、Langfuse、LangSmithへリアルタイム…

KivaのSamurai Appに、ヤマト運輸「ビジネスメンバーズ」の顧客コードへログインし運賃と請求金額を取得、複数コード・複数月の運賃CSVを一括ダウンロードできるAPI連携を追加

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

川崎重工業は11月16日、神戸須磨シーワールドでAIカメラによる実証実験を行うと発表した

SwitchBotはスマートリモコン「Hub 4」の予約販売を11月18日に19,980円で開始した

CodeRabbitはOpenAI Daybreak Defense Networkに参加した
