OpenAI、意思決定APIを全顧客に提供開始

OpenAIの今回の動きは、同フロンティアラボの元研究者が創業したスタートアップTypeSafeの最近の台頭を受けたものだ。同社のJevモデルは、スーパークラシファイアとして機能する高速・低コストの判断モデルというカテゴリーを生み出した。ソフトウェア開発者はすぐに、こうしたモデルが一部のワークフローでLLMを大幅に低いコストで置き換えられることに気づいた。Handa氏によると、同僚たちはJevを見て、自分たちにも100万件のユースケースがあると気づき、チームは独自版の開発に突き進んだ。OpenAIは専用に調整した判断モデルを構築するのではなく、ChatGPT Lunaを再構成して推論を高速化しコストを下げた。

競争環境はすでに混雑している。AIM System One IndexやArtificial Analysis Decision Indexといった公開ベンチマークは、LiquidのD1 UltraやBase LabのElephant-1を高く評価する傾向がある。最新のJevモデルはこれらの指標で7位と3位につける一方、OpenAIのDecision Modelは8位と14位だ。それでも、TypeSafeの製品は今のところOpenRouterで最も多く問い合わせられている。モデルがPacManをプレイするベンチマークJevManでは、最新のJevモデルが首位に立つ。OpenAIの強みはマルチモーダルにあるかもしれない。Handa氏によれば、Lunaは極めて強力で、画像分類でより良いキャリブレーションを示しているという。