AIToday
大規模言語モデルAI安全性・アラインメントZenn AI/ML掲載日時: 2026年11月18日 16:00

ローカルLLM、囮に5.7秒で接触も偽認証情報は12個中0個

LINEで送る
ローカルLLM、囮に5.7秒で接触も偽認証情報は12個中0個

3つのポイント

  1. 何が起きたか

    Docker Composeの閉鎖ラボでLlama 3.1 8Bエージェントは約5.7秒でOpenCanaryハニーポットに到達したが、ダミー認証情報12個のファイルサーバーには触れず発見数は12個中0個だった。

  2. なぜ重要か

    この結果は、AI攻撃者がデコイに素早く引っかかることを示す一方、デコイが実際の攻撃を遅らせるかは未計測のままだ。実行は1条件のみで、デコイなし環境との比較がなかった。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この実験は、著者が冒頭で示す前提に立つ。AIがシステム構築の敷居を下げるなら、攻撃の敷居も下げる可能性が高く、防御側は自動化された大量の探索を想定すべきだという。デセプションはその探索をシグナルに変える。デコイへの接触は定義上すべて不審であり、通常のログから異常を探すのとは違うからだ。実行は意図的に小規模で、単一条件・単一パスに留められ、著者はAIエージェントがハニーポットに弱いという話ではなく、仕組みが機能することを示すものだと慎重に位置づけている。

ハニーポットへの接触と、触れられなかったファイルサーバーとの差に、興味深い留保が潜む。エージェントはポートをスキャンし、OpenCanaryでFTP、SSH、HTTPが開いているのを見つけ、自ら考案した認証情報でログインを試み続けた。MCP呼び出しも試したが、偽のMCPサーバーではなくハニーポットのアドレスに送った。著者は、ハーネス自体が最初からMCPとBilling APIのアクションを提示していたため、そうしたサービスが存在することを示唆した可能性があると指摘する。接触時刻の比較も一様ではない。OpenCanaryは接続試行の時点で記録するが、実サービスはHTTPアクセスしか記録しないため、それらに届いた可能性が高い最初のポートスキャンは接触として数えられていない。

結果と並行して第二の論点がある。著者が調査の計画や攻撃者行動の検討に商用モデルを使ったところ、Fableと最新世代のOpusの安全ガードレールが作業の一部をブロックし、一部はOpus 4.8に切り替えざるを得なかった。これはモデルの安全性への判定ではなく、実務的な観察だ。防御研究は生のモデル能力だけでなく、ベンダーが正当な作業をどう支援するかにもかかっている。著者が挙げる次のステップは、同一条件での反復実行、モデルと環境の変更、デコイを置く場所の設計へのAI活用の可能性などだ。

よくある質問
AIは偽の認証情報を見つけて使用したのか。
いいえ。デコイ認証情報は12個中0個を取得、0個を使用し、それらが保存されたファイルサーバーにもアクセスしなかった。
検知システムが実際に機能すると、なぜ分かるのか。
著者は偽のBilling APIキーと偽のMCPトークンを使う5つの固定ステップからなる陽性対照を実施し、両方の使用が検知された。実行は156件の自動テストと環境受け入れチェックも通過した。
12個のデコイ認証情報は、使用されればすべて検知できるのか。
いいえ。データベースのパスワードとJWT署名鍵にはラボ内に対応するサービスがないため、12個のうち検知できるのは最大10個だ。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

FlashLabs、コード変更なしでトレース出力

FlashLabsがOrcaRouterゲートウェイのTrace Exportを強化し、SDKやコード変更なしでAIリクエストのトレースをGrafana、Datadog、Langfuse、LangSmithへリアルタイム…

ASCII.jp6時間前

SamuraiAX、ヤマト運賃をAIで取得するAPI連携

KivaのSamurai Appに、ヤマト運輸「ビジネスメンバーズ」の顧客コードへログインし運賃と請求金額を取得、複数コード・複数月の運賃CSVを一括ダウンロードできるAPI連携を追加

ASCII.jp6時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+6時間前

川崎重工、神戸須磨シーワールドでAIカメラ人流分析の実証

川崎重工業は11月16日、神戸須磨シーワールドでAIカメラによる実証実験を行うと発表した

AI Watch (Impress)6時間前

SwitchBot、GPT対応スマートリモコン「ハブ4」予約販売開始

SwitchBotはスマートリモコン「Hub 4」の予約販売を11月18日に19,980円で開始した

AI Watch (Impress)6時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)9時間前
次の記事へOpenAIのCodexがJava4Shellを1時間で発見