OpenAIがDecisions API発表

OpenAIのDecisions APIは、火曜日のDev DayでCEOのSam Altman氏から余談として登場したが、今月前半にTypeSafe AIが公開したJevというモデルへの直接的な対抗策を示唆している。JevはLLMを一種の超強力な分類器として構築したもので、開発者が選択肢のセットを与えると、低コストかつ高速に確率として出力する。Altman氏も同様の言葉で新APIを説明し、OpenAIのLunaモデルに事前定義された選択肢を与えて選ばせる方法だと述べた。

背景にあるのは、私たちが知るLLMが多くのソフトウェアにとって適切な解決策ではないという点だ。比較的遅く高コストだからである。開発者はJevをLLMの補強に使い、より高速で安価な結果を得ている。元OpenAIエンジニアでTypeSafe CEOのDiogo Almeida氏はXでクローン戦争の始まりと冗談めかし、OpenAIの関心はSystem One互換の方法で構築することが未来である兆しかもしれないと付け加えた。同氏は自社の堀は統計的に有用な出力を生む合成データであり、「intelligence-per-dollar」が北極星だと述べた。

想定される用途の一つはAIエージェントの監視とセキュリティ確保だ。エージェントがオープンインターネット上で問題を起こす一連のインシデントを受け、OpenAIは多大な計算コストをかけて別モデルで悪質な行動を監視し始めた。スタートアップQueryStoryを率いるShapor Naghibzadeh氏は、Jevを使い各エージェント行動をタスクと照合し、悪い行動をブロック、それ以外をフラグ立て、残りを許可するデモを構築した。理論上、こうした監視はHugging Faceのインシデントを阻止できた可能性があり、コストはフロンティアLLMの372ドルに対しJevでは2.94ドルだった。これらのモデルに未来があることは明らかだが、鍵となる問いは、各意思決定モデルの出力が実生活にどれだけ適切に校准されるかだ。