AnthropicがMETR評価チームに社内アクセス付与

Anthropicはこれを、評価機関との協働に関する3段階設計の最上位と位置づける。METRは最上位の第3段階。SecureBioは第1段階で、公表にはAnthropicの承認が必要であり、8月のリスク報告書の化学・生物兵器の章をレビューした。AnthropicはアクセンチュアやFacultyとも協働しており、Hugging Faceを含む他社とも初期段階の協議を進めている。

この取り決めは、CEOのDario Amodeiが9月のエッセイ「We Must Pace the Frontier」で示した常駐評価者の構想を、10月15日の発表で実践に移したものだ。METRはその前日の10月14日、すべてのフロンティアAI企業を対象にした独自の提案を公開した。開発者が自社の内部AIの制御を失うリスクについて、一般の人々が判断する材料を増やすことが目的だと明言している。METR自身も提案の限界を認めている。アクセスは各社の判断に委ねられるため、自社スタッフは社内の上級従業員と同等にはならない。

OpenAI CEOのSam AltmanはAmodeiの9月のエッセイを支持し、同社も同様の取り組みを行うと述べた。10月8日、OpenAIは安全研究者3人を解雇したと発表した際、外部の安全評価機関と契約を最終調整中で、数週間以内に詳細を公表すると説明した。