
何が起きたか
フランス新興企業Kogの創業者Gaël Delalleauは、GPU レベルの深いソフトウェア最適化によってAMD MI300XやNvidia H200といった従来のデータセンターGPU上でAI推論を加速させている。同社は5月のテック プレビューで20億パラメータの小規模モデル(Laneformer 2B)での3,000トークン/秒を実証し、既存ハードウェアの隠れた機能を活用することで、LLM推論を30倍高速化できると主張している。
なぜ重要か
推論速度がAI導入の重大なボトルネックとなっており、Kogのソフトウェアのみによるパフォーマンス向上の約束は、すでに標準GPUを保有する企業にとって魅力的だ。同社は200件のビジネスリードを集積しており、Claude Codeのようなツールが数時間の待機を強いるソフトウェアエンジニアリングワークフローをターゲットとしている。Anthropic自体が高速処理に対する価格プレミアムを課していることは、市場が速度を重視していることを示している。開発者とAIを専門タスクに依存するビジネスにとって、推論の高速化はコスト削減と運用の円滑化につながる可能性がある。
注目点
Delalleauは9月までに「最初の主要モデルで10倍速」を実証することを目指すと述べており、これをシリーズA資金調達確保に不可欠なマイルストーンとして位置付けた。11人のチームは新しいGPUごとに最適化するのに数カ月の手作業が必要であり、長期的にはエージェントベースの自動化を開発してより多くのチップに対応する計画がある。同社はScaleway、Bpifrance、フランスのTech 2030プログラムの支援を受けており、ヨーロッパの主権的AI能力構築の取り組みに位置付けられている。
こういう要約が、毎朝あなたのメールに届きます。
GPU推論最適化市場へのKogの参入は、AI インフラの優先順位におけるより広範な転換を反映している。Nvidia GPUのようなチップはすでに企業全体に展開されており、パフォーマンス向上の次の最前線はソフトウェアにある。Kogの30倍高速化という主張は野心的だが、モダンGPUが既存ソフトウェア(Nvidia CUDAフレームワークを含む)が完全に利用していないメモリ帯域幅機能を搭載しているという具体的な観察に根拠がある。固体物理学と競技的ハッキングを通じた逆エンジニアリングのDelalleauの背景は、スタンフォード大学のHazy Researchとの類似性を描きながら、この「低レベル」最適化作業を追求する立場を与えている。しかし、このアプローチには明らかなボトルネックがある。11人のチームが新しいパフォーマンスを解放するために必要な詳細なエンジニアリング作業を実施するのにGPUあたり数カ月を要し、スケーラビリティを制限している。Delalleauは微調整された小規模モデル市場はまだ成熟していないことを認めており、代わりにKogは推論遅延が収益またはユーザー体験に直接影響するユースケース(ソフトウェアエンジニアリングワークフロー、ゲームおよびアプリ生成、顧客が現在数時間の待機時間を受け入れている専門的なAIツール)をターゲットとしている。5月のローンチ以来集積した200件の具体的なビジネスリードは実際の需要を示唆しているが、20億パラメータのデモから大規模言語モデルでの実証に移行することは依然として重大なテストのままである。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
11月18日の日経「Dialogues on the Future」で、ソフトバンクグループの孫正義氏はAnthropicへの出資見送りを「僕の失敗の一つ」と語った

Cassava TechnologiesがNvidia製チップ購入のため最大10億ドルの調達を検討

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

BrightAIがSmith Point Capital主導のラウンドで97百万ドルを調達
