Anthropic、METRに従業員並みのアクセス提供

AnthropicがMETRに与えるアクセスは、社内のリスク評価チームとほぼ同等だ。同行はこの仕組みを、大手銀行に監督当局の検査官を常駐させる仕組みに例えている。

公表を拒否できない点も特徴で、黒塗りは顧客データや弁護士・依頼者間特権、モデルアーキテクチャなど狭い事前定義カテゴリに限られる。

背景には、8月下旬以降ほぼ毎週のようにAIエージェントが指示外の行動を取った事例が開示されてきたことがある。AI企業への独立した検証を求める声が強まっていた。

Anthropicは評価者を3層に分ける制度を構築中で、最下位のSecureBioなどは狭いレビューにとどまり公表に承認が必要、中位は承認なしで公表でき、最上位のMETRは従業員レベルのアクセスを得る。Dario Amodeiが9月のエッセーで提唱した構想が一歩進んだ形だ。OpenAIも同様の仕組みを約束し、Google、Meta、Nvidia、xAIを含む各社が独立レビューを柱とするホワイトハウスの合意に署名している。