Modalが7.5億ドル調達

Modalの躍進は、AIインフラの売買手法の変化を映す。典型的な容量契約は顧客に一定期間、固定数のGPUを提供するもので、Erik Bernhardsson氏は時間軸に対して描くと長方形になると表現する。実際のワークロードは成長し、急増し、減少するため、ピークに合わせて買えば遊休ハードウェアが生じ、少なく買えば需要を取り逃す。Modalの賭けは、数千の顧客の需要を束ね、その下でより小さく弾力性のある単位で容量を借りることだ。大半の容量がハイパースケーラー各社のスポットと1年予約で調達できた頃は、このモデルはうまく機能した。しかしModalの成長とクラウド市場の変化に伴い、約25のクラウドと取引し、前払いを伴う長期契約も受け入れる必要が生じ、調達部門と世界各地のベアメタル容量を管理するチームを構築した。Bernhardsson氏は財務リスクも指摘する。プロバイダーが現在の価格で容量を確保し、後にGPU価格が下落すれば、割高な供給を抱え込む可能性がある。差し迫った崩壊は想定していないとしつつ、事業構築ではこの可能性が重要だと述べる。サンドボックス事業はさらに別の層を加える。エージェントは環境を作成し、コードを実行し、結果を検査し、何度も再試行する可能性があるため、起動と復元の遅延が体験の一部になる。