AI企業がLLM（文章を理解・生成するAI）の不安定性を知りながら、セキュリティ対策を後回しにする「逸脱の正常化」が進行中

何が起きたか

AIエージェント（自分で判断して作業するAI）システムの普及が進む一方で、Microsoft・OpenAI・Anthropic・Googleなどの大手ベンダーが、自社製品の文書内でプロンプトインジェクション攻撃によるデータ流出やマルウェアインストール、予期しない動作といった既知のセキュリティリスクを明記しています。

なぜ重要か

LLMは本来、信頼できない出力を生み出すものであるにもかかわらず、過去の成功事例が続くと組織は警戒を緩め、人間による監視をスキップし始めるとみられます。Space Shuttle Challenger災害のように、警告を無視したまま同じ危険な文化的ドリフトが起きれば、一度のセキュリティ侵害で複数のシステムに波及する可能性があります。

注目点

複数のベンダーが既にリスクを警告しているにもかかわらず、製品化の速さと競争圧力が「正当な根拠に基づいた脅威モデリングと監視」よりも優先されている状況が続いています。