BDH-CQがARC-AGIで29.2%達成、コスト記録

AIの追求はスケーリング、すなわちデータ、パラメータ、計算量の増大に依存してきた。PathwayのBDアーキテクチャは別の道を行く。思考連鎖として余分なトークンを生成する代わりに、隠れた潜在空間で応答を洗練するため、各推論ステップを言語化して処理する際のメモリと計算コストを回避する。

この方向性はAWS基盤の上に築かれており、分散トレーニングにはAmazon SageMaker HyperPod、計算にはEC2 p5en.48xlargeインスタンスを使用。実際の利点はタスクあたりのコストを劇的に削減することで、0.0007ドルなら、サイバーセキュリティ分析や物流調整など、クエリコストが重視されるリアルタイムかつ高頻度の用途で技術が実用可能になる。

今後の試練は、BDHの原理がARC-AGI-1のグリッドパズルの外でも成立するかどうかだ。ベンチマーク結果は有望だが、本番で成功するかは、性能を落とさず、専用インフラに依存せずに、より多様で非構造的な問題を処理できるかどうかにかかっている。それができれば、業界の焦点はモデル規模から、より効率的に考えるように設計されたモデルへ移るかもしれない。