GPT-Liveからターン検出器を廃止

初期の音声システムの核心的な問題はアーキテクチャにあった。テキストモデルのターン制を継承し、応答タイミングを決める小型モデルを別途必要としていたのだ。判断を誤ると、ユーザーを遮ったり、気まずい間が生じたりした。GPT-Liveは検出器を改良するのではなく、完全に排除し、全二重モデルが連続音声ストリームを制御することでこの問題に対処している。

この転換には、リクエスト・レスポンス型の推論モデルからステートフルなストリーミング型への移行という、大規模な再設計が必要だった。チームはメディアフロントエンドをGoで書き直してフレーム配信を改善し、長時間通話とコンテキスト圧縮のためのシームレスなハンドオフ機構を開発。WARPとInstant Connectによりセッション起動時間を短縮した。無音の本番テストからは、容量とはGPUスループットだけでなく、全音声フレームをスケジュール通りに維持しながら同時セッションを持続することであり、地理と可観測性が第一級の関心事であることが明らかになった。

このアーキテクチャはより広範なプラットフォームとして位置づけられ、ChatGPT Voiceのエージェント連携への拡張を支え、今後のGPT-Live APIを支えるものとなる。実際のネットワーク環境の不確実性や長時間の複雑な会話にこのシステムがどう耐えるかが真の試金石であり、APIの性能がこの設計が外部開発者にとっても有効かどうかを示すだろう。