Anthropicは、Claude Codeに中国ユーザーを追跡する隠蔽コードを3月から埋め込んでいた事実が露見しました。同社はモデル盗用防止と不正販売防止が名目だと説明しているものの、プライバシー擁護派からはユーザー信頼を損なう行為として批判されています。Alibabはこれを受けてClaude Codeの社内利用を禁止しました。
こういう要約が、毎朝あなたのメールに届きます。
無料で登録 →何が起きたか
Anthropicが3月に「プロンプトステガノグラフィ」という隠蔽技術を使い、Claude Codeの中国ユーザーをこっそり追跡するコードを埋め込んでいたことが判明しました。セキュリティ研究者に指摘された後、同社は当該コードをすぐに削除しました。同社エンジニアは、不正な販売者による虐用防止とモデル「蒸留」攻撃への対策が目的だったと説明しています。
なぜ重要か
Anthropicは米政府がUS市民を監視するための利用を拒否して政府を訴えるなど、ユーザー監視に対する厳しい姿勢を対外的に示していました。しかし、同社が中国ユーザーを意図的に隠れて追跡していた事実は、プライバシー擁護派から「ユーザー信頼の重大な侵害」と非難されています。開発者ツールであるClaude Codeは元々コードを閲覧・実行・編集できる権限が広く、隠れた監視機能があると判明したことで、さらなる警戒が必要とみられます。
注目点
Alibaba（阿里巴巴）は先週末、社員によるClaude Codeの利用を禁止する通知を出しました。同社はメモで、追跡機能を「セキュリティ脆弱性を持つ高リスクソフトウェア」と位置付けています。
背景として、中国企業による米国AIモデルの大規模な盗用が急加速しています。The Washington Postの報道では、北京大学と中国科学院の研究者が2月に、主要なLLMで蒸留の形跡を検出する手法を開発し、ほぼ全ての中国モデルに米国モデルの蒸留跡が見つかったと報告しています。Alibaba傘下のQwen AIモデルは2月にClaudeに酷似した振る舞いを示し、テストでは時にClaudeと自己紹介する誤りまで見られたとのことです。Anthropicは6月にこのモデルが史上最大規模のClaude蒸留攻撃を受けたと主張しています。
こうした蒸留攻撃への防御という文脈では、Anthropicが隠蔽追跡を導入した理由は理解できます。一方で、セキュリティ研究者Therealoは、コード実行権を持つClaude Codeは元々「怖い境界線の向こう側」にあり、明示的な告知なしに追跡機能を埋め込むことは、その他のプライバシー声明の信頼性を損なうと指摘しています。Anthropicと OpenAIは蒸留攻撃を知的財産侵害と見なすよう米国政府に働きかけており、上院議員Tim Scott氏も法的介入が必要だと同意していますが、この追跡事件は対中政策の論議において、米国企業による監視手法の透明性という新たな問題を浮上させています。
まだコメントがありません。最初のコメントを投稿しましょう！
ログインして議論に参加200以上のソースから厳選したAIニュースを毎日無料でお届けします。
無料で始める登録無料・30秒で完了・いつでも解除できます
毎朝1分、AIの要点だけ。
200媒体以上・Email/LINE/Slack 対応
