Cisco、GPU稼働率を15%から50%に引き上げ

Ciscoの事例は、AIが試作段階からミッションクリティカルな運用へ移るにつれ、プロジェクト専用のAIクラスターから共有型のマルチテナント構成へと移行した軌跡をたどる。きっかけとして挙げられているのは、従業員9万人へのMyAgentの全社展開と、数千の企業アカウント向けに本番ワークロードを稼働させるCisco IQ向けの容量拡張だ。エージェント型ワークフローの急増により、Ciscoが挙げる4つの障壁が露呈した。GPU稼働率10〜15%の遊休容量、予測不能なトークンコスト、拡大するセキュリティ攻撃面、熱と電力密度の上限である。

同社の対応は、高帯域のプール型ネットワークファブリック、NVIDIAとAMDのGPUを混載したCisco UCS-Xサーバーによる異種演算、リアドア熱交換器、Cisco AI DefenseとHypershieldによるセキュリティのネイティブ統合を組み合わせたものだ。Splunk Observability Cloud、Splunk Cloud Platform、Splunk IT Service Intelligenceが可観測性レイヤーを構成する。CiscoはこのレイヤーをAgent ObservabilityとTokenomicsへ拡張する方針だ。

今後についてCisco ITは、トレーニングを60%上回る需要の伸びに対応するため推論へ軸足を移し、動的なリソースプール、GPUの自動回収、適応型ネットワークを導入する計画だ。また、エージェントが生成するトラフィックはタスクあたり人間のトラフィックより450%多いと予測されることを、AgenticOpsモデルへ移行する理由に挙げている。この成果は1社の内部導入によるもので、数値が他の企業にそのまま当てはまるとは限らない。