
何が起きたか
AWSはエージェントの文生成ごとにAmazon SageMaker AI上のKokoro-82M TTSモデルへストリーミングし、初回音声は329.3 msから156.7 msへ52.4%改善した。
なぜ重要か
応答の完成を待たず最初の文から合成を始めれば、通話者は長い複数段落の回答が終わるまで音声を待たずに済む。投稿はこれをユーザーの不満の源と位置づけている。
誰に効くかすでにServer-Sent Eventsでテキストをストリーミングしている音声エージェントやチャットフロントエンドを手がけるチームが最も恩恵を受ける。このパターンにより、完全な応答が生成される前に音声再生を開始できるからだ。
こういう要約が、毎朝あなたのメールに届きます。
投稿はこの問題を、エージェントが回答を持っている時点と通話者がそれを聞く時点の間のギャップとして位置づけている。1文の応答なら600ミリ秒で生成できるかもしれないが、完全な応答には5秒かかり、従来の統合ではそのすべてを待ってから合成を始める。提案される修正は、エージェントが文を生成した瞬間に、その文をAmazon SageMaker AI上のホスト型Kokoro-82M TTSモデルへストリーミングすることだ。
アーキテクチャはSageMaker AIのリアルタイムエンドポイント上のカスタムコンテナに依存し、2つのルートを公開する。完全な入力を1つ受け取るPOST /invocationsと、多数のメッセージにわたって接続を開いたままにするWS /invocations-bidirectional-streamである。投稿は、すべてのメッセージがバイナリWebSocketフレームとして届くため、テキストを想定したハンドラはすべてのリクエストで失敗すると強調し、メッセージ間ではセッションを開いたままにし、明示的なクローズメッセージでのみ閉じることを推奨している。
戻り経路では、SSEイベント内のbase64エンコード音声と、同じ双方向セッション上で生のバイナリ音声とJSON制御フレームを多重化する方式を比較している。統合方式は約33%のペイロード膨張と、SSEが必要とするフレーム再調整のバッファリングを避けられる。ただし投稿は、マネージドランタイムがJSONシリアライズ可能な辞書しか受け付けないため、エージェントから通話者への区間は依然としてbase64を使うと注記している。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
Google DeepMindは視覚言語行動モデル「Gemini Robotics 2.5」を発表した

Folkbenchは、静的キャッシュが効きにくい時事プローブと、一致率・入力トークン・思考トークン・指紋・キャッシュ状態を記録するモデル指紋プローブを組み合わせ、公式直結キーと比較する手法を発表した

Zennの執筆者が、Anthropic Messages・OpenAI Chat Completions・OpenAI Responsesの各APIを相互変換するローカルゲートウェイopencodex 2.100.2を…

サブエージェント間で34ファイルを置き換える試行で、delegating-work Skillを与えられたエージェントは24項目中18項目を満たし、なしでは3項目だった

Microsoftは11月17日から20日までサンフランシスコでIgniteを開催し、CEOのSatya Nadella氏が基調講演を行う

11月12日、Googleは日常的なコーディングと多段階のエージェントタスク向けにGemini 4 Hydrogenを発表し、GeminiアプリとGoogle検索での展開を開始した
