Deepgram、エアギャップPCで音声AIを志向

DeepgramがノートPCを目指す動きは、航空管制や救急医療など騒音が多く失敗が許されない環境向けに13年間音声モデルを調整してきた末に出てきたものだ。同社は今年初めにFluxモデルを10言語に拡張し、出荷するどのモデルもまもなく追い越されると想定し、各リリースを再トレーニング候補として扱っている。

そのインフラ需要は社内研究チームと数万の外部顧客の双方に及ぶ。そうした顧客の大多数はモデルを自らホストしており、最近のFortanix Inc.との提携により、規制産業向けにプライベートなオンプレミス音声AIを提供している。Dell TechnologiesはDeepgramのインフラを供給する一方、DellのCustomer Solution Center Innovation Labでも同社のモデルを運用しており、Mann氏はその範囲が大企業から中小企業に及ぶと述べた。

ノートPCでの目標はそのスペクトルの最も端に位置する。現在、中小企業は小型のNvidia GB10システムでIVRを運用できるが、Mann氏が追い求めているより大きな課題はデータセンターの外、学生が今や学校に持って行くAI対応ノートPCにあるという。そこでモデルをネイティブかつエアギャップで動かすことは、Deepgramが現在支えるクラウド、オンプレミス、Dellホストの構成とは異なる導入経路となる。