Anthropic、抽出99%削減

Anthropicの公表は、蒸留という特定の手法に焦点を当てている。企業がAIモデルの能力を組織的にコピーし、自社の小型モデルを訓練する手法だ。Anthropicによれば、攻撃者は数十万件の偽アカウント網を使い、モデルの内部思考ステップである推論トークンを抽出する。

同社は、防御策の稼働後に蒸留の試みが激減し、抽出される推論トークンの量が90〜99%削減されたと述べている。Anthropicは現在、Claudeの内部推論ステップへのアクセスを制限し、抽出の試みを検知する分類器を稼働させ、フラグを立てたアカウントを自動的に禁止している。数万件はすでに禁止された。

Anthropicは関与企業として中国のZhipuとMoonshotを名指しした。ZhipuはGLM-5.3モデルのために米国の主要モデルからサイバー能力を吸い上げたとされ、MoonshotはClaude経由でクエリを密かに転送していた。Anthropicは、盗まれた能力が外国の軍事・監視システムに渡る可能性があるとし、他のAI開発者にも同様の保護策の採用を呼びかけている。一方で、正規ユーザーもこの過程に巻き込まれていると認めている。