Groq、AI クラウド拡大に3億5000万ドル調達

要点

• AI インフラストラクチャスタートアップの Groq は、GroqCloud プラットフォームを拡大するため3億5000万ドル のシリーズA資金調達を実施した。GroqCloud は、AI モデル実行のための特化チップとクラウドの組み合わせを顧客に提供する。

• Nvidia と共同開発された Groq 3 LPU は、言語モデル計算の特定部分を従来の GPU のみのセットアップよりも効率的に処理し、Groq はフィードフォワード計算が Groq チップで実行され、注意機構が Nvidia GPU を使用する分散アプローチを提案している。

• 同社は来年、グローバルデータセンター規模と電力容量を大幅に拡大する計画である。

3つのポイント

背景と解説

よくある質問

Groq 3 LPU とは何か、また Nvidia GPU のみの使用とどのように異なるのか？

Groq 3 LPU は推論（本番環境で訓練済み AI モデルを実行すること）用に最適化された特化チップである。Nvidia の Rubin GPU と並行して実行するように設計されており、顧客は言語モデルのフィードフォワードネットワーク計算を Groq チップにオフロードしながら、注意関連計算を GPU に送信できる。これは Nvidia によると、すべてをグラフィックスカードで実行するよりも効率的である。

GroqCloud は現在何個のデータセンターで運用されており、Groq の拡張計画は何か？

GroqCloud は現在、世界中の13のデータセンターのハードウェア上で実行されている。Groq は来年、クラウド電力容量を57メガワットから200メガワット以上に成長させる計画である。

技術的知識が少ないユーザーに Groq は何を提供するのか？

技術的知識が少ないユーザーのために、Groq は GroqStack を提供しており、これはインフラストラクチャ管理タスクを自動化するツールキットであり、顧客が基盤となるハードウェアをカスタマイズできる GroqCloud のベアメタル環境を補完する。