
何が起きたか
Together AIがTogether Compiler(TKCC)を発表。
なぜ重要か
推論事業者が手作業の最適化に頼らず、新モデルやトラフィック形状に合わせて配信を継続的に再調整できる可能性を示す。ユーザーあたりの速度を保ちつつ、GPUあたりのトークン処理量を増やせる。
誰に効くかTogether AIの報告結果に基づけば、オープンソースモデルを配信するAI推論事業者やクラウドチームは、導入先ごとに必要な手作業調整を削減し、既存GPUからより高いスループットを得られる可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
Together AIはこの問題をばらつきの問題として捉えている。OpenRouterのオープンソースLLM上位10件はいずれも同じアーキテクチャを使っておらず、トラフィック形状は地域やモデルリリースによって異なり、ハードウェアもH100からB200、B300まで幅があると指摘する。この多様性により各導入先の手作業調整は現実的でなく、TKCCはその空白を埋めるものだ。
設計上の選択はその目標を反映している。TKCCは一度起動して候補のフォワードパスをホットリロードする永続エンジンを使い、Together AIによれば数十分かかるエンジン再起動を避ける。また、高速でばらつきの小さい測定と実データ分布での高忠実度テストのバランスを取る2層のエンジン構成や、トラフィックの変化に応じて並列化戦略を選ぶ独自のコストモデルも採用する。
LLM推論以外でも、Together AIはTKCCが気象モデリング、PDE、時系列、生物学の4モデル中3モデルでClaude Codeより大きな高速化を達成したと報告する。同社によればTKCCはすでに毎日数兆トークンを処理している。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
11月18日の日経「Dialogues on the Future」で、ソフトバンクグループの孫正義氏はAnthropicへの出資見送りを「僕の失敗の一つ」と語った

Cassava TechnologiesがNvidia製チップ購入のため最大10億ドルの調達を検討

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

BrightAIがSmith Point Capital主導のラウンドで97百万ドルを調達
