AIToday
大規模言語モデルAIビジネス・産業TechCrunch AI掲載日時: 2026年8月15日 1:00

KogがAI推論を30倍高速化

LINEで送る
KogがAI推論を30倍高速化

3つのポイント

  1. 何が起きたか

    フランス新興企業Kogの創業者Gaël Delalleauは、GPU レベルの深いソフトウェア最適化によってAMD MI300XやNvidia H200といった従来のデータセンターGPU上でAI推論を加速させている。同社は5月のテック プレビューで20億パラメータの小規模モデル(Laneformer 2B)での3,000トークン/秒を実証し、既存ハードウェアの隠れた機能を活用することで、LLM推論を30倍高速化できると主張している。

  2. なぜ重要か

    推論速度がAI導入の重大なボトルネックとなっており、Kogのソフトウェアのみによるパフォーマンス向上の約束は、すでに標準GPUを保有する企業にとって魅力的だ。同社は200件のビジネスリードを集積しており、Claude Codeのようなツールが数時間の待機を強いるソフトウェアエンジニアリングワークフローをターゲットとしている。Anthropic自体が高速処理に対する価格プレミアムを課していることは、市場が速度を重視していることを示している。開発者とAIを専門タスクに依存するビジネスにとって、推論の高速化はコスト削減と運用の円滑化につながる可能性がある。

  3. 注目点

    Delalleauは9月までに「最初の主要モデルで10倍速」を実証することを目指すと述べており、これをシリーズA資金調達確保に不可欠なマイルストーンとして位置付けた。11人のチームは新しいGPUごとに最適化するのに数カ月の手作業が必要であり、長期的にはエージェントベースの自動化を開発してより多くのチップに対応する計画がある。同社はScaleway、Bpifrance、フランスのTech 2030プログラムの支援を受けており、ヨーロッパの主権的AI能力構築の取り組みに位置付けられている。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

GPU推論最適化市場へのKogの参入は、AI インフラの優先順位におけるより広範な転換を反映している。Nvidia GPUのようなチップはすでに企業全体に展開されており、パフォーマンス向上の次の最前線はソフトウェアにある。Kogの30倍高速化という主張は野心的だが、モダンGPUが既存ソフトウェア(Nvidia CUDAフレームワークを含む)が完全に利用していないメモリ帯域幅機能を搭載しているという具体的な観察に根拠がある。固体物理学と競技的ハッキングを通じた逆エンジニアリングのDelalleauの背景は、スタンフォード大学のHazy Researchとの類似性を描きながら、この「低レベル」最適化作業を追求する立場を与えている。しかし、このアプローチには明らかなボトルネックがある。11人のチームが新しいパフォーマンスを解放するために必要な詳細なエンジニアリング作業を実施するのにGPUあたり数カ月を要し、スケーラビリティを制限している。Delalleauは微調整された小規模モデル市場はまだ成熟していないことを認めており、代わりにKogは推論遅延が収益またはユーザー体験に直接影響するユースケース(ソフトウェアエンジニアリングワークフロー、ゲームおよびアプリ生成、顧客が現在数時間の待機時間を受け入れている専門的なAIツール)をターゲットとしている。5月のローンチ以来集積した200件の具体的なビジネスリードは実際の需要を示唆しているが、20億パラメータのデモから大規模言語モデルでの実証に移行することは依然として重大なテストのままである。

よくある質問
KogのソフトウェアはどのGPUに対応していますか?
Kogのテック プレビューはAMD MI300XおよびNvidia H200データセンターGPUでのアプローチを実証した。同社はノートパソコンのGPUには現在対応していないと述べている。
Kogの速度向上に関する主な主張は何ですか?
Kogはそのアプローチで30倍高速なLLM推論を実現できると主張している。デモは20億パラメータの小規模モデルLaneformer 2Bを使用して3,000トークン/秒を示した。
Kogが大規模言語モデルでのアプローチの実証を予定していつ頃ですか?
CEOのGaël Delalleauは、9月までに「最初の主要モデルで10倍速」を実装し、その後顧客牽引力を実証してシリーズAを調達する計画を立てていると述べた。
TechCrunch AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へ企業の95%、インフラ不足でAIプロジェクト延期