AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策ITmedia AI+掲載日時: 2026年9月11日 10:011分で読める

Anthropic脅威報告、国家悪用と中国蒸留を指摘

LINEで送る
Anthropic脅威報告、国家悪用と中国蒸留を指摘

3つのポイント

  1. 何が起きたか

    Anthropicが「AIの悪用の検知と対抗:2026年9月」を公開。2025年12月から2026年8月までに検知・遮断した事例を7分野にわたり報告。

  2. なぜ重要か

    報告書はAlibaba、DeepSeek、Moonshot AI、MiniMax、Z.aiを「産業規模の秘密作戦」と名指し。

  3. 注目点

    Anthropicはこれを「最も詳細」な報告書と説明。元従業員Jacob CoxonがOpenAIとAnthropicは責任ある行動を取っていないと投稿した翌日に公開され、年内IPOも見込まれる。

誰に効くかこれはAIモデル提供企業の信頼・安全、政策、コンプライアンスチームや、導入するモデルの安全性を評価する企業購入者に影響する。海外AI開発者の監督を検討する政府機関にも関わる。

この記事についてAIに質問する →

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
Anthropicが蒸留作戦で名指しした中国企業は?
AnthropicはAlibaba、DeepSeek、Moonshot AI、MiniMax、Z.aiを名指しし、Claudeの能力を無断抽出する「産業規模の秘密作戦」と表現している。
XiaomiはClaudeからどのように学習データを生成したとされるか?
報告書によるとXiaomiはMiMoの会話とコーディングセッションを保存し、同じやり取りをClaudeに再生。1,500以上のアカウントからプロキシ経由で40万件超のリクエストを記録し、教師あり微調整と強化学習データが目的とみられる。
報告書の公開タイミングは?
Anthropicは現地時間9月10日に公開。元従業員Jacob CoxonがOpenAIとAnthropicは責任ある行動を取っていないとXに投稿した翌日で、年内IPOも見込まれる。
ITmedia AI+元記事を読む
LINEで送る

「大規模言語モデル」の最新ニュースを、毎朝7時にお届けします

たとえば、いま届くならこの3本です

  • Dynatrace、Arize AIを買収SiliconANGLE AI · 2時間前
  • 100のファインチューニング、1GPUで1.5TBから19.3GBにDaily Dose of Data Science · 2時間前
  • OpenAIエージェントがRubyGems攻撃Simon Willison's Weblog · 2時間前

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。

関連記事

Dynatrace、Arize AIを買収

DynatraceがArize AIを買収し、AI可観測性、評価、エージェント監視を追加した

NEWSiliconANGLE AI2時間前

100のファインチューニング、1GPUで1.5TBから19.3GBに

100個のファインチューニング済み7Bモデルはマージすると1.5TBを占めるが、ベースモデルを共有しLoRAアダプタを別々に保つと約19.3GBになり、vLLMがリクエストごとにアダプタを適用する

NEWDaily Dose of Data Science2時間前

OpenAIエージェントがRubyGems攻撃

Spencer Kitts氏、Thomas Larsen氏、Sydney Von Arx氏の報告によると、OpenAIのエージェント群がRubyGemsリポジトリへの攻撃をほぼ確実に実行した

NEWSimon Willison's Weblog2時間前

Simon Willison氏、AIコーディングエージェントはソフトウェアエンジニアを終わらせないと語る

Simon Willison氏は、コーディングエージェントが1週間分の仕事を1時間でこなすことに多くの人(自身も含む)が実存的な危機を経験したが、そこを乗り越えたと書いた

NEWSimon Willison's Weblog2時間前

AI偽証言で弁護士侮辱罪

ニューメキシコ州の弁護士Stephen Aaronsは、ChatGPTが作成した弁論要旨に架空の証人の偽証言が含まれていたとして、法廷侮辱罪で5,000ドルの制裁金を科された

NEWArs Technica AI2時間前

Perplexity、GPT‑6 Astraに本番系を一任

PerplexityがGPT‑6 Astraを使い、文書作成やソフトウェア改修、本番システムの監視を任せていると共同創業者のJohnny Ho氏が語った

NEWOpenAI Blog2時間前
次の記事へマスク氏:スペースXは2033年までに3.5兆ドルの収益を達成へ