Anthropic論文、AIの自己整合性向上を実証

この論文は、Anthropicのフェローである陳越漢氏が主導し、伝統的に人間が行ってきた研究タスクを自動化するシステムを説明している。システムは文献を検索し、方法を提案し、30分サイクルでモデルをトレーニングし、機能するものを維持し、機能しないものを破棄する。これは人間主導の研究の反復的な性質を反映しているが、人間が及ばない規模と速度で行われる。

研究者たちはその意味合いについて率直だ。システムは平均6時間以内に経験豊富な人間の提案を上回り、コスト差は歴然としている：API推論は1時間あたり約4ドルに対し、人間の研究者は1時間あたり150ドルだ。これらの数字は、整合性研究の自動化が、人間の専門知識だけに頼るよりもはるかに効率的である可能性を示唆している。

論文の限界も明確だ。このアプローチは、ベンチマークが整合性の目標を正確に捉えているかどうか、そしてシステムが参照する文献の質に依存している。それらのベンチマークの確立と維持は依然として大きな課題である。それでも、論文はこれらの結果が、自動化された整合性ポストトレーニングが近い将来実用的になり得るという初期の証拠を提供すると主張している。