AIToday
大規模言語モデルAI安全性・アラインメントオープンソースAIAI Weekly掲載日時: 2026年11月4日 16:00

Anthropicがゼロ知識証明システムを公開

LINEで送る
Anthropicがゼロ知識証明システムを公開

3つのポイント

  1. 何が起きたか

    AnthropicはEPFL、MIT、StarkWare、Succinctと共同構築したゼロ知識証明システム「FlashProve」をApache 2.0の下で公開した。

  2. なぜ重要か

    この証明は、回答が約束されたモデルか密かに差し替えられたモデルかをユーザーが確認できない溝を埋める。制約により研究用プロトタイプの域を出ない。

誰に効くかAI推論プロバイダーを評価する企業ITチームや監査可能性を評価するコンプライアンス担当者は、FlashProveをモデル同一性検証の構成要素と見なしそうだ。ただし1,024トークンの上限と独立したセキュリティ監査の不在により、まだ本番のコンプライアンスツールではない。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

AnthropicのFlashProveは、同社が明示する特定の脅威モデルに対応する。開発者が応答していると主張するモデルから回答が来たのか、ルーティングサービスやトークンストリームを改ざんした攻撃者によって密かに差し替えられたモデルから来たのかを、ユーザーは確認できない。同システムはモデル重みにコミットし、出力トークンがその重みに由来することを示すゼロ知識証明を生成することで、この問題に対処する。完全性、健全性、ゼロ知識性の各保証は、Lean証明支援系でそれぞれ形式検証された。今回の公開は、2026年9月30日までに検証可能な推論のプロトタイプを開発するというAnthropicのFrontier Safety Roadmapの目標に関連しており、同社は別の関連プロジェクトを通じてこれを達成したとしている。独立系の報道はFlashProveを推論ベンダーへのチェックと位置付ける一方、独立したセキュリティ監査の不在と1,024トークンの上限を、企業導入前の課題として指摘する。証明器はvLLMベースライン比で72〜94倍遅く、ほとんどのワークロードでは本番推論経路ではなく監査レイヤーにとどまる。

よくある質問
FlashProveは具体的に何を証明するのか?
回答が、プロバイダーがコミットした特定のモデル重みによって生成されたことを、その重みを明かさずに証明する。なりすましの主体がモデルを運用するラボ自身であっても、証明は成立する。
現在の制約は何か?
FlashProveが現在対応するのは、最大1,024トークンのコンテキストと、貪欲法でデコードする整数モデルのみ。アーキテクチャは隠蔽せず、独立したセキュリティ監査も受けていない。
FlashProveは誰が構築したのか?
AnthropicがEPFL、MIT、StarkWare、Succinctの研究者らとともに構築した。証明器、C++の検証器、Leanの仕様がApache 2.0で公開されている。
LINEで送る

GIGAZINE AI、ITmedia AI+、THE DECODER、TechCrunch AIも報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へPROTOCOREがAIのPoC支援を開始