Anthropic、Claude悪用を報告

Anthropicの報告書は悪用を7カテゴリに分類し、典型的な事例ではなく新規の事例を記録していると述べている。影響を受けたモデルは主にHaiku、Sonnet、Opusで、FableとMythosは蒸留の1事例にしか登場しなかった。これは、新しいモデルに厳格な保護措置が備わる一方で、広く展開された旧モデルが依然として主要な侵入経路であることを示唆している。

報告書のサイバー章は、高度な攻撃に高度な攻撃者はもはや不要だと論じている。手法自体は馴染み深いものだ——盗まれた認証情報、未パッチのデバイス、SQLインジェクション、フィッシング——しかし偵察、悪用、ツール構築が今や機械の速度で並行して実行される。GTG-20006として追跡されるロシア語話者のアクターは、マルウェアが検知されているか確認し、検知されればコードを書き換えて再コンパイルし、再び検知をすり抜けるAIエージェントを運用していた。20以上の組織が標的となり、このアクターはドローン視覚システム用の独自SDKを丸ごと盗み出した。

蒸留に関する調査結果は別の疑問を提起する。Anthropicは、不正な版は産業規模で隠密であり、偽アカウントと「転送ステーション」によって可能になっていると述べている。しかし最も奇妙な事例は、ラボが自社顧客のリクエストを中継していたケースだ。Moonshot AI（GTG-16002）は10日間にわたり約30万件の顧客リクエストを中継し、ユーザーはKimiモデルを使っていると信じていた。DeepSeek（GTG-16001）は選択したユーザーをClaude Opusにルーティングし、14日間で1,210万件を超えるやり取りがあった。その中でAnthropicは、中国人民解放軍に結びついている可能性が高いユーザーが成都の数百台のカメラの監視映像を分析していたこと、ロシア国防省に関連するデータベースの有効な認証情報を持つ運用者を発見した。悪用が直接のアカウントではなく仲介者を通じて行われるこの種の中継を、より厳格なAPI管理で防げるかどうかが、報告書が未解決のまま残した課題である。