AnthropicがMETRの6人を受け入れ

AnthropicとMETRの取り決めは、外部団体が距離を置いてモデルをレビューする従来の枠組みを超えている。METRのスタッフ6人は、Anthropicのリスク評価チームとほぼ同等に同社のハードウェア、オフィススペース、内部ツールやシステムへのアクセスを得ており、Anthropicはリスク部門の同僚と同様に情報を共有するよう従業員に促しているという。METRは、OpenAIの逸脱したモデルによるHugging Faceへのハッキング事案で数千件のログを精査し、企業からノートPCの提供を受けた実績がある。

透明性には限界も明記されている。METRはAnthropicの承認なしに公表できるが、Anthropicは顧客データ、弁護士・依頼者間秘匿特権の資料、モデルアーキテクチャの詳細について削除を要求できる。AnthropicはMETRに報酬を支払っておらず、METRもAI企業やその従業員からの寄付は受け取らず、個人、慈善団体、英国AI Security Instituteなどの政府機関から資金を得ている。Anthropicはまた、先月に安全性テストのパートナーとして指名され、双方が新たな安全策に少なくとも$1 billionずつ拠出するAccentureとも、化学・生物兵器リスクについてSecureBioとも協働している。

時期は、Anthropicが今年見込む$2tn超の評価額での新規株式公開と結びついている。安全性への疑問は上場に重くのしかかる可能性があり、Anthropicは今週の投資家向け説明会の大部分を安全性の取り組みの説明に充てた。すべてのフロンティアAI企業に評価者を自主的に受け入れるよう求める同社の呼びかけと、すべてのフロンティアAI開発者と協働する用意があるとするMETRの声明は、このモデルが雛形として提示される可能性を示すが、競合他社が追随するかは定まっていない。