TypeSafeがJev発表、20～200倍高速

TypeSafeの発表が際立つのは、誰が関わっているかによるところも大きい。ChatGPTの共同発明者であるDiogo Almeidaは2年間ステルスで新しい学習手法（RLCD）と新しいタイプのフロンティアモデルを構築してきた。Jevは汎用言語モデルではなく、テキストを生成するのではなく判断・分類・ルーティング・スコアリングするよう学習されており、TypeSafeは20～200倍高速で40～400倍安価、出力トークンは無料と主張している。

同社はJevを、より低速な「システム2」LLMの補完物として位置づけており、置き換えとは見ていない。文字列とチャットを手放すことが要点であり、並列サンプリング、「ハルシネーションなし」、キャリブレーションがそのトレードオフとして提示されている。コミュニティの反応も同じ想定用途に集中した。すなわち、自己回帰生成が不要なオーバーヘッドとなる本番システムにおいて、構造化分類器・ジャッジ・ルーティングポリシーとしてLLMを置き換えるという用途だ。

発表はGemini 3.8 LiveやPeriodic Labsの強力な発表があった日に行われたが、TypeSafeの発表は一日中Hacker Newsのトップに位置し、発表ツイートは4.21Mビューを集めた。コミュニティからの注意点は、Jevが制約付きまたは拡散的な判断モデルに近いというもので、正しいメンタルモデルはGPTの代替というより、構造化された選択肢向けの安価でキャリブレーションされた推論エンジンだというものだ。その役割を獲得できるかは、実際にどれだけの本番ワークフローが出力を事前定義形式に制約できるか、そして速度とコストの主張が発表資料の外でも成り立つかどうかにかかっている。