LinkedInがGPU効率を2倍に

LinkedInがデータセンター支出を横ばいに抑える決定は、業界全体のインフラ競争と劇的な対比をなしている。OpenAI、Meta、Googleが新しいデータセンター構築のための資金調達とパートナーシップ構築に必死な一方で、LinkedInは持続不可能な支出と称するものに対して異議を唱えている。同社の動きは具体的な技術的成果に根ざしている。過去6か月間で、LinkedInのエンジニアリング チームは既存のGPUフリート効率を2倍にし、同じハードウェアから2倍の仕事量を引き出すことに成功したのだ。

この効率向上は偶然ではなく、LinkedInはMicrosoftが傘下に置く前、オレゴン州、テキサス州、バージニア州に独自データセンターを構築するのに何年もかけた。当時、Microsoft Azureの利用を検討していたが、プロフェッショナルネットワークの規模には経済的に見合わないと判断したのだ。インフラを支配下に置いた後、同社は測定、最適化、再設計に大きく投資した。チームは個別プロジェクトがどの程度の計算とストレージを使用しているかを追跡するツールを開発し、アイドル状態のハードウェアを削減する配分システムを構築し、大規模モデルから蒸留させた小規模モデルを導入した。その結果は単なるコスト削減だけではなく—過去1年間に約2,400万ドルと推定—製品品質の維持または改善、例えば、それまで見つけられなかった職業開始ツール助成するジョブレコメンデーション機能も実現した。

LinkedInのアプローチは「トークノミクス」と呼ばれる業界の広がる傾向を反映している。企業が「より多く購入するほどより多く節約する」マインドセットから「持っているもので更に多くを実現する」マインドセットへ移行する動きだ。Gartnerのチラグ・デカテはLinkedInのインフラ支配がない小規模企業でさえ独自のコスト削減戦略を見つけていることに注目する。しかし、LinkedInの経営陣と業界オブザーバーの双方は、横ばい支出モデルが限界に直面することを警告している。デカテが警告するように、「いずれの時点で何らかの決断を下さなければならなくなる」—いずれAI野心が損なわれるか、支出命令が変わらなければならなくなるのだ。LinkedInの経営陣は、ハードウェア価格が急騰しており（一部サーバーはここ数か月で3倍に跳ね上がった）、AI計算需要の無情な成長が最終的に同社に再度予算増加を強いるかもしれないと公に述べている。