
何が起きたか
AI攻撃で悪意あるプロンプトを隠すために使われていたASCIIスマイグリングが、今度はスパム業者がメールフィルターを回避する手段として利用している。マイクロソフトは2月上旬に1日あたり約21,000件だった検知数が130万件超、さらに4日以内に250万件へ急増したのを観測した。
なぜ重要か
この手法は人間には見えないがコンピューターには読めるUnicodeタグを使うため、スパムがフィルターをすり抜けてもユーザーに疑念を抱かせない。マイクロソフトは、モデルへの命令を悪用して紛れ込ませるのに使えたのと同じ性質が、今度は検知前のキーワード難読化に利用されていると説明する。国内のメール管理者は、見えない文字を使う新しい手口のスパム対策を迫られる可能性がある。
注目点
今回の急増が一時的なものか、スパム対策の恒常的な課題となるかは、今後の検知数の推移が焦点となる。5月中旬の減少が、マイクロソフトの対策強化によるものか、スパム業者の戦術変更によるものかは未確定とみられる。
こういう要約が、毎朝あなたのメールに届きます。
スパム業者によるASCIIスマイグリングの採用は、AI向けに作られた技術が別の悪用目的に転用される流れを示している。マイクロソフトのデータでは検知数が1日約21,000件から130万件、さらに4日で250万件へと急増しており、急速かつ広範な採用がうかがえる。この手法の効果は、人間には見えずコンピューターには読めるUnicodeタグを利用し、スパムがフィルターを通過してもユーザーに疑念を抱かせない点にある。この進化は、AI特化型攻撃と従来のスパム対策の両方を視野に入れる必要性を示しており、同じ仕組みが異なる悪意ある目的に使われ得る。急増は数ヶ月続き5月中旬に減退したが、これはスパム業者が防御側の適応に応じて回避手法を切り替えている可能性を示唆する。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Qwen/Qwen3-1.7Bのコピー100体にLoRAを付け、交叉と突然変異を10世代行う予備実験を実施

Clarocがcf.metaaiusercontent.comをパッシブDNSで検索し、会話タイトルがサブドメインにあるため6800件超のMuse共有リンクを発見

Pi 0.84.2をclaude-sonnet-4-5で試すと、rmに{ block: true, reason }を返すフックはクラッシュせず通常のツールエラーになり、event.input.commandへの書き換え…

アンソロピックが草案を流布している法案は、独立評価者が生物兵器、モデルによる制御回避、サイバー攻撃で50人超の死亡や10億ドル超の財産被害という予見可能かつ差し迫ったリスクを認定した場合に限り、AIモデルの公開を阻止する

Hugging Faceの共同創業者兼CEO、Clem Delangue氏は、Netflixのドキュメンタリー『AI Gone Rogue』は不正確だと述べ、「完全な終末論モード」だと評した

Hugging Face CEOのClément Delangue氏はXでNetflixの「AI Gone Wild」が完全に破滅論モードでAIを擬人化していると批判し、2時間以上の訂正が通用しなかったと述べた
