Trillium Labsが最大1億ドル調達へ

Trillium Labsの登場は、強力なモデルを少数のラボ内に閉じ込めるべきか、外部の精査に開くべきかで業界が二分される中で起きた。かつてオープン研究ラボのAi2やHugging Faceで働いたLambert氏は、フロンティアAI開発の閉鎖的路线は分野を後退させると主張する。同氏とZick氏はCOVID-19パンデミック中にUC Berkeleyの大学院生として出会い、業界のAI研究が学術研究からいかに乖離してしまったかを見て、このアイデアを得た。

この非営利団体は実験の詳細を公開し、外部の科学者が研究・再現できるようにする計画で、まずポストトレーニングと再帰的自己改善から始める。このテーマは今月初め、Anthropicの研究者が退社し、再帰的自己改善が人類に対する存亡の脅威になり得ると警告したことで広く注目を集めた。Trillium LabsはSchmidt SciencesやHalcyon Futuresなどから非公開の金額を調達済みで、総額40ドル〜1億ドルの調達を目指すとしている。

オープンなアプローチが有益な精査を生むかどうかは、創業者らが慎重な実験に必要だと説く計算資源をラボが資金調達できるかにかかっている。Zick氏は、ポストトレーニングにおける強化学習のスケーリングを理解するには多大な計算資源と多くの慎重な実験が必要だと指摘する。そのため18カ月間の訓練に計画された3000万ドルは、非営利の予算で透明性をどこまで貫けるかの試金石になり得る。