BasetenのBase Labs、Hugging Face、Goodfireがオープンウェイトの安全基準を構築へ

BasetenはAIインフラ分野で無名の存在ではない。推論プロバイダーの同社は6月に15億ドルのシリーズFを調達して評価額を130億ドルに押し上げ、今年前半に研究グループBase Labsを立ち上げた。提携相手のGoodfire AIも同様に資金が厚く、今年前半にB Capital主導の1億5000万ドルのシリーズBを調達し、モデル解釈プラットフォームを推進している。こうした資金裏付けは、これが草創期の実験ではなく、オープンモデルの学習・展開のあり方を形作る資金豊富な取り組みであることを示す。

オープンウェイトモデルをめぐる安全の問題は、abliterationの広がりとともに切迫度を増している。オープンソースAIモデルをホストするHugging Faceは現在6,000超のabliteration済みモデルを掲載しており、安全機構がいかに容易に剥がされるかを示す具体指標だ。Basetenは自らの取り組みを、後付けではなく透明で学習・展開に組み込まれたオープンモデルの「基準」と位置づける。Xへの投稿で同社は、オープンであることがAI安全の利点になるとの考えを示し、モデル挙動の可視性が高まり、安全研究を実行可能な制御に変える手段がクローズドソースより多くなると述べた。

AIの「ブラックボックス」を開き、モデルがどう判断するかを説明することに特化するGoodfireは、解釈可能性への注力を踏まえれば、その方程式の「組み込み」部分を担う最有力候補だ。Basetenはまた、広く開発者エコシステムに枠組みへの参加を呼びかけ、誰もが安全に使えるオープンモデルのエコシステムを築いていると説明する。これが広く採用される基準になるか、資金は豊富でもニッチな取り組みにとどまるかは、呼びかけに何人の開発者が応じるかにかかりそうだ。