AIToday
大規模言語モデルAI安全性・アラインメントZenn AI/ML掲載日時: 2026年11月20日 4:00

本物のChatGPTやclaude.ai上に悪意コマンド公開

LINEで送る
本物のChatGPTやclaude.ai上に悪意コマンド公開

3つのポイント

  1. 何が起きたか

    Huntress、Malwarebytes、Trend Micro、MicrosoftがClickFixの事例を報告。

  2. なぜ重要か

    悪意ある指示が正規ドメイン上にあり、ユーザー自身がコードを起動するため、「不審なファイルを開くな」といった助言や自動防御では捕捉できない可能性がある。コマンドの出所確認がドメインの信頼より重要だ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

ここでまとめた報告は、悪意あるコマンドが現れる場所の変化をたどっている。2025年8月21日公開とされるMicrosoftのセキュリティブログは、ClickFixが最初に確認されたのは2024年3月から6月の間だと述べ、日本の警察庁も2025年10月のサイバー警察ニュースレターで取り上げた。より最近では、Huntress、Malwarebytes、Trend Microが、本物のAIサービス上でホストされた会話や画面を誘い文句にした事例を記録している。macOSの事例では、検索結果や検索広告がユーザーを攻撃者作成のChatGPT、Grok、claude.aiの共有チャットへ導き、ターミナルコマンドを「安全なクリーンアップ」や「Claude Code on Mac」のセットアップ手順として提示した。Trend Microによると、報告後にその共有会話は無効化された。2026年9月のHuntressによるWindowsの事例はさらに進んでいた。悪意あるCustom GPTはユーザーを別のドメインへリダイレクトするだけで、そこでは偽のCAPTCHAページがPowerShellコマンドを押し付け、AIチャット内にはコマンドが一切現れなかった。著者が導く共通点は、AIが自発的に悪意あるコマンドを生成したのではなく、攻撃者作成のコンテンツが正規ドメイン上に公開されていたという点だ。ユーザーはドメインのブランドではなく、手順の出所を確認すべきだということになる。正規の公式インストール手順自体がcurl ... | bashの形を取ることもあるため、判断の分かれ目は、公式ドキュメントを直接開いて見つけた手順か、広告や共有会話経由で届いた手順かにある。

よくある質問
ClickFixとは具体的に何か。
「ロボットではありません」確認などの偽のエラー画面や確認画面を表示し、ユーザー自身にコマンドをコピーして実行させる手口だ。
Microsoftがこの手口を最初に確認したのはいつか。
Microsoftのセキュリティブログによると、この手口が最初に確認されたのは2024年3月から6月の間だ。
MalwarebytesとTrend Microの報告はclaude.aiの事例について何と述べているか。
検索広告からclaude.aiの共有チャットに誘導され、「Claude Code on Mac」のセットアップ手順を装ってコマンドを実行させられた。Trend MicroによるとSSH鍵や暗号資産ファイルを窃取できるもので、報告後に共有チャットは無効化された。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OpenAIのCodex工場、3カ月で1700件超を調査

OpenAIがCodex上に構築したPerformance Factoryは3カ月で1700件超の調査を完了し、600件超で根本原因を特定

NEWGIGAZINE AI5時間前

多牛科技共同CEO、AIエージェントでサポートコスト88%削減と説明

2026年11月10日のThinkingAI Summit 2026 Tokyoで、多牛科技の共同CEO兼副総裁Daniel Wang氏がサポートコスト88%削減を起点とするAIエージェント導入の順序を示した

PR TIMES (AI)8時間前

行政向けAI、GPT-6 Lunaの国内推論に対応

Polimillは2026年11月19日、行政向け生成AI「QommonsAI」がOpenAIの「GPT-6 Luna」による国内推論に対応し、約1200自治体・65万人規模で展開を開始すると発表した

PR TIMES (AI)8時間前

AgeAI、音声AIのPHR・PSP活用へ臨床実証パートナー募集

三上源CEO率いるAgeAIは9月17日開始の五反田バレーアクセラレーションプログラム2026に参加し、臨床実証パートナーとなる医療機関や製薬企業を募集している

ASCII.jp8時間前

OpenAIの有料プラン、利用枠の異常な減り方で報告相次ぐ

10月後半以降、OpenAIの有料プランのユーザーからCodexとChatGPT Workの利用枠が異常な速さで減るとの報告が相次いだ

ASCII.jp8時間前

HTC、AIコンパニオンVIVEEの国内予約を11月20日開始

HTC NIPPONがVIVEEの国内予約受付を2026年11月20日(金)に公式オンラインストアとAmazonで開始

ASCII.jp8時間前
次の記事へAINOWがAI人事の解説記事、採用・評価・労務の任せ方を提示