AI企業がLLM（文章を理解・生成するAI）の不安定性を知りながら、セキュリティ対策を後回しにする「逸脱の正常化」が進行中

何が起きたか

AIエージェント（自分で判断して作業するAI）システムの普及が進む一方で、Microsoft・OpenAI・Anthropic・Googleなどの大手ベンダーが、自社製品の文書内でプロンプトインジェクション攻撃によるデータ流出やマルウェアインストール、予期しない動作といった既知のセキュリティリスクを明記しています。

注目点

複数のベンダーが既にリスクを警告しているにもかかわらず、製品化の速さと競争圧力が「正当な根拠に基づいた脅威モデリングと監視」よりも優先されている状況が続いています。