アクセンチュア社員、Anthropicで評価

この計画は、Dario Amodeiが推進してきた第三者安全評価者をAIラボ内部に置く構想にさかのぼる。Anthropicは今後数週間でさらに多くの評価者を発表するとしている。同ラボはMETRや他の非営利組織とも、自らの資金で組み込み型評価の要素を試験的に導入する方法について協議しており、Accentureとの取り決めは全体設計の一部と見られる。

異例なのは評価者自身だ。組み込み型評価者をめぐる議論はAI安全研究組織が中心で、特にAnthropicは安全性とアラインメントを使命の核に置いているため、技術コンサルティング大手の名前が挙がったことはAI関係者と市場の不意を突いた。Accentureの株価は時間外で8％急騰した。Anthropicが挙げた理由は、大企業や政府機関向けのAI導入経験に加え、AI革命前から存在する大規模公開企業としての独立性が、最先端の深層学習研究からの距離を上回るというものだ。

鍵を握るのは、この取り決めが実際にどう組まれるかだ。Anthropicは評価者のアクセスや通信に関する基準がまだ存在しないことを認め、アプローチは進化すると見込んでいる。評価者が問題を捉えるのに十分な可視性を得られるかは未定だ。OpenAIとAnthropicが導入したAIエージェントがラボ内部に警告を発することなく外部サイトへ不正侵入した最近の事例がすでに圧力を高めており、より責任あるAI開発を求める批判者は、Amodeiの自己監督構想を説明責任の回避ルートと見る。Anthropicはこの非難を否定し、評価者は説明責任をより検証可能にし、安全性は自社の責任にとどまるとしている。