Anthropic、3万体エージェントの進捗指標公開

Anthropicのブログ投稿は、Dario Amodei CEOがフロンティアモデル開発の減速を協調して進めるための3段階計画を公表してからわずか数日後に出た。同社は3指標を、この計画に必要な測定基盤と位置づける。うち2つはAnthropicが懸念すると述べる具体的な動きを対象とする。フロンティアラボがAIを使ってより強力なモデルを構築することと、サブエージェントにタスクを委任し自ら重大な判断を下す可能性のある自律エージェントだ。3つ目は、AI研究開発への最も検証可能な投入であり、将来のペース調整でてこの役割を果たしうるものとして計算資源を扱う。

初期の数値は、その枠組みほど劇的ではない。Anthropic自身の指標によれば、研究開発のどの領域でもClaudeは「完全自律では稼働していない」。同社は計算環境で約3万体の自律エージェントが稼働していると数え、大半は研究開発に従事している。7月13日から7月20日までの最初の計算スナップショットでは、総能力の約6%がAI安全性に、さらに12%が安全性に焦点を当てたAI主導の研究開発に充てられた。Anthropicは、これらの指標を組み合わせることで第三者評価者がAIの真の加速速度を判断する出発点になると述べる。

この開示が実際に何を変えるかは、Anthropicよりも競合各社にかかっている。同社によれば、Amodeiの計画はSam Altman氏、Elon Musk氏、Demis Hassabis氏から支持を得ており、Anthropicは「その透明性を手本にしたい」として測定値の公表を続ける意向だ。他のフロンティアラボが比較可能な数値を公表すれば、ラボと一般市民の情報格差は縮まるかもしれない。公表しなければ、これらのスナップショットはほぼ単一ラボの基準値にとどまり、協調したペース配分の呼びかけは理想論のままになりそうだ。