
何が起きたか
ArenaがLightspeed Venture PartnersとKhosla Ventures主導で、評価額31億ドルで2億ドルのシリーズBを調達した。
なぜ重要か
同社はモデルラボや企業に性能分析を提供する有償サービス「AI Evaluations」を展開し、不正行為や欺瞞的完了などのアラインメント問題でモデルを評価している。
誰に効くか導入するモデルを選ぶ企業のAIチームは、ベンダーのベンチマークと比較検討できるクラウドソーシング型のアラインメント・性能シグナルを得られるようになり、モデルラボは自社モデルの振る舞いについて第三者の見解を得られる。
こういう要約が、毎朝あなたのメールに届きます。
Arenaは2023年、AIモデルのランキングをクラウドソーシングで作成するUC Berkeleyの研究プロジェクトとして始まった。この無料の消費者向けプラットフォームは現在、月間数千万人の訪問者を抱えるとされ、昨年9月にはモデルラボや企業に性能分析を販売する商用サービス「AI Evaluations」を導入した。タイミングは二つの変化と重なった。AIラボが自社モデルのベンチマークテスト不正を発見したこと、そして企業が標準ベンチマークだけに頼らず自社ニーズに合うモデル選びの支援を求めたことだ。
資金調達の発表でArenaは、AIはそれを評価する能力よりも速く進歩しており、モデルがテストされていると気づけば静的ベンチマークは機能しなくなると主張した。同社は、実際のユーザーの手に渡ったAIがどれほど安全でアラインメントが取れているかを測る中立的な第三者として自らを位置づけた。リーダーボードにアラインメント部門を追加したことは、この訴えの直接的な延長とみられ、評価を一度きりのスコアから、導入後にモデルがどう振る舞うかという継続的な問いへと変えるものだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
第2四半期に富豪やファンドが「Magnificent Seven」のAI関連株6銘柄を売却

Barron'sによると、Nvidiaは金曜早朝に上昇した

ElevenLabsが220億ドルの評価額で3億ドルの従業員向けテンダーを完了し、Mati Staniszewski氏は音声が主要なインターフェースになると予測した

OpenAIは10月15日、Rosalind Academic Planを発表した

Neostellar CapitalのEvan Schlossman氏はCoreWeaveの残存履行義務1037億ドルが債務とリース債務の520億ドルをカバーすると述べた

Qiita記事がLLMアプリ向け自動レッドチーミング手法GCG・PAIR・TAPを実LLMなしの模擬実装で比較した
