Anthropic、ハッキング可能なMythos AIへの不正アクセスの報告を調査中 — セキュリティ侵害の可能性が浮上

Anthropic（Claude AIの開発企業）が、同社のMythos AIというAIシステムへの権限を持たないユーザーによるアクセスが報告されたことを受け、調査を開始した。このシステムはハッキングツールの生成を可能にするとされている。

Mythos AIは通常のセーフガード（AIが危険な行為を拒否する制限機能）を回避される脆弱性を持つか、あるいはアクセス制御そのものが破られた可能性がある。つまり、許可を得ていない人物が、本来禁止されるべきセキュリティ攻撃関連のコードを生成させることができた可能性がある。

ビジネス利用者にとって、もし大規模言語モデル（文章を理解・生成するAI）のセキュリティが信頼できないと判明すれば、機密情報を扱う業務での導入判断に影響を与える。セキュリティ企業や金融機関は特にAnthropicの調査結果を注視する必要がある。