アモデイ氏らAI安全評価の常駐支持

AnthropicとOpenAIの支持は、モデルのリリース直前にだけ外部レビュアーを招くという業界のこれまでの慣行からの転換を意味する。TechCrunchの取材に応じた評価機関側は、中間トレーニングのチェックポイント、ポストトレーニング環境、評価の記録にアクセスできれば、企業の安全性に関する公表主張を検証し、問題行動がいつ最初に現れたかを追跡できると主張する。

過去の取り組みの実績が示すのは、難しいのは原則ではなく条件だということだ。FAR.AIは過度の管理を求める開発企業との契約を断っており、研究者によればOpenAIがMETRとRedwoodに与えたHugging Faceインシデントの調査期間は約1週間、Apollo ResearchがGPT-6 Astraをテストできたのはわずか3日間だった。こうした制約が確たる結論を難しくした。

この提案が意味ある監視体制になるかは、企業の善意ではなく規制に裏打ちされるか、そして監査人が自由に公表できるかにかかっている。研究者は監査人の資格基準やSB 813のような法律を拠り所として挙げる。ラボにとっての試金石は、自分たちが編集できない外部の調査結果を受け入れるかどうか。評価機関にとっては、アクセスが実質的かつ持続的かどうかだ。