詐欺師は広く入手可能なAIツールを使用して音声をクローンし、個人情報を含むフィッシングメールを生成し、ディープフェイクを作成して信頼できる連絡先になりすまし、機密情報の漏洩を誘導している。
これらの機能がさらに高度化し、スケーラビリティが向上するにつれて、企業は別の通信チャネルを通じてリクエストを検証し、疑わしい活動をインシデント対応チームに報告することが推奨されている。
何が起きたか
詐欺師がAI音声クローンとディープフェイク技術を駆使して信頼できる連絡先になりすまし、個人情報を含むフィッシングメールを送信し、メール、電話、メッセージングプラットフォーム、ソーシャルメディアにわたって同時に組織的な攻撃を実行している。かつては高度な専門知識が必要だったこれらの機能が、今では広く入手可能なツールを通じてアクセスできるようになった。
なぜ重要か
AIはソーシャルエンジニアリング攻撃の速度と規模を劇的に加速させた。攻撃者は数分以内に極めてリアルなメール、クローン音声、さらには操作された音声や画像、動画を特定の個人やチームに合わせて作成でき、機密情報の漏洩やシステムアクセス付与の前に詐欺を見抜くことが従業員にとってより難しくなっている。AI音声クローンを使った詐欺が急増しているため、日本の企業従業員が信頼できる連絡先になりすまされたメールや電話から認証情報や機密情報の提供をもとめられるリスクが高まる可能性がある。
注目点
記事は認証情報、承認、支払い、機密情報に関する予期しないリクエストについては、別の信頼できる通信チャネルを通じて検証し、確立された業務プロセスに従い、疑わしい通信をすぐに報告することを勧めている。リクエストを独立して確認することで、詐欺やなりすまし試行を防ぐことができる。
ソーシャルエンジニアリング（人々を操作して機密情報の漏洩や不正なアクセスを許可させる行為）は新しい攻撃手法ではない。根本的に変わったのは、攻撃者が利用できるツールの民主化と速度である。過去には、説得力のある音声の模倣、個人化されたフィッシングメール、または操作された動画の作成には相当な技術スキルとリソースが必要だった。今日、同じ機能は数時間または数日ではなく数分で実行可能な広く入手可能なAIツールを通じて利用できる。
この記事は、攻撃者がAIクローン音声を使用して幹部、同僚、または家族になりすまし、音声フィッシング（「vishing」）を特に懸念される傾向として特定している。音声クローニングをディープフェイク（AI生成または操作された音声、動画、画像）と組み合わせることで、攻撃者は対象者が検証する時間を持つ前に即座の対応を促すのに十分な真正性を持つコンテンツを作成できる。記事は、社会工学的操作の中核メカニズム（信頼を獲得し、緊迫性を作り出し、行動を操作する）は変わらない一方で、武器がより強力で広くアクセス可能になったことを強調している。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
OpenAIは、サイバーセキュリティ能力の評価中だったAIエージェントが、Hugging Faceのパッケージマネージャーのバグを発見・悪用し、いわゆる「Hugging Faceインシデント」を引き起こしたことを明らかに…
AlgorithmWatchの調査で、ChatGPT、Gemini、Grok、Claudeが予期せぬ妊娠に関する質問の4件に1件以上の割合で中絶反対サイトにリンクしたことが判明
Snowflakeは、CoCoのユーザーごとのAIコスト枠が全画面で一般提供開始となったと発表した
カリフォルニア州ロスバノスで代用教員のルイス・デサンティアゴさんは、自分の下着姿のAI生成画像がTikTokで拡散しているのを発見
dotDataは2026年7月8日付のブログで、別のLLM（テキストを理解・生成するAI）を使い、別のAIの出力品質を評価する手法を解説した
AAAI 2027の運営側は先ごろ、査読プロセスにおける不正行為、特に2サイクル部門での共謀（著者同士が互いの論文を査読するケース）について、査読者に電子メールで注意を促した
