AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策THE DECODER掲載日時: 2026年10月7日 22:01

Anthropic、Claudeの安全制限を緩和しCVPを拡大

LINEで送る
Anthropic、Claudeの安全制限を緩和しCVPを拡大

3つのポイント

  1. 何が起きたか

    AnthropicはCyber Verification Programをセキュリティ専門家のより広い層に開放した。

  2. なぜ重要か

    公開モデルでは攻撃者にも悪用されうるため、こうした作業の多くがブロックされてきた。Anthropicが審査を前提に防御側へ門戸を開くことで、セキュリティ業務の生産性が変わる可能性がある。

  3. 注目点

    CVPはDefense Access、Red Team Access、Specialized Accessの3段階に分かれ、Red Team Accessは組織限定、Specialized Accessは米政府と共同で審査する。Project Glasswingのパートナーは2026年4〜7月に少なくとも129,000件の脆弱性を確認した。

誰に効くか企業のセキュリティ部門や脆弱性研究者、重要インフラ事業者、政府機関などが、これまで以上に高性能なAIモデルを防御業務に使えるようになる。審査基準や政府との連携次第で、利用できる範囲は大きく変わりそうだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Anthropicはこれまで、Claudeの公開モデルで脆弱性調査やマルウェア解析をブロックしてきた。同じ能力が攻撃者に悪用されるリスクがあるためだ。今回のCyber Verification Program拡大は、審査済みの防御側に限ってその制限を緩める試みである。

プログラムはDefense Access、Red Team Access、Specialized Accessの3層に分かれる。Defense Accessは企業のセキュリティチームや大学、個人研究者まで対象を広げ、Red Team Accessは組織限定で攻撃シミュレーションを認める。Specialized Accessは飛行制御や電力網、銀行インフラなど重要システムのテスト向けで、米政府と共同で申請者を審査する。

前身のProject Glasswingでは、パートナーが2026年4〜7月に少なくとも129,000件の脆弱性を確認し、33,000件以上が高深刻度または重大だった。Anthropicは実際の影響は少なくともその5倍としている。AIによる作業加速は数カ月から数年単位に及ぶとの報告もある。

この拡大がどこまで進むかは、審査体制と政府との連携にかかっている。防御側の能力向上と悪用防止のバランスをどう取るかが焦点となる。

よくある質問
誰がこのプログラムに参加できますか?
企業のセキュリティチーム、政府機関、大学、重要インフラ事業者、オープンソース開発者、個人研究者がDefense Accessに参加できる。Red Team Accessは組織限定、Specialized Accessは米政府と共同で審査する。
どのような作業が可能になりますか?
脆弱性調査、マルウェア解析、インシデント対応、ペネトレーションテストなどが可能になる。コードレビューや既知の脆弱性の修正は特別なアクセスなしでも可能だ。
実績はありますか?
前身のProject Glasswingのパートナーが2026年4〜7月に少なくとも129,000件の脆弱性を確認し、うち33,000件以上が高深刻度または重大と分類された。Anthropicは実際の影響は少なくともその5倍としている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

次の記事へClaude Docsのタスク管理帳で並行作業を一元化