AIToday

ソフトバンク、100エージェント構想を支える独自AI基盤「Cloud Proxy」を本格展開

ITmedia AI+4時間前8分で読める
ソフトバンク、100エージェント構想を支える独自AI基盤「Cloud Proxy」を本格展開

要点

ソフトバンクが独自開発したAIゲートウェイ「Cloud Proxy」は、複数の大規模言語モデルへの安全で効率的なアクセスを実現する基盤です。2023年の運用開始以降、セキュリティ管理を自動化しつつ、複数モデルの追加対応を1週間で完了できる処理速度を備えており、2025年の「1人100エージェント」構想の技術的な支えとなっています。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  • 何が起きたか

    ソフトバンクが、複数の大規模言語モデル(LLM)に安全にアクセスするための独自ゲートウェイ「Cloud Proxy」を2023年から運用しており、2025年の「1人100エージェント」構想を支える基盤として機能しています。

  • なぜ重要か

    Cloud Proxyは、APIキーの管理リスクを軽減し、セキュリティ要件への対応を自動化することで、複数のAIモデルを同時に活用する際の運用負担を大幅に削減できるとみられます。このため、企業がAIエージェント(自分で判断して作業するAI)を大規模に導入する際の課題解決につながる可能性があります。

  • 注目点

    ソフトバンクは240システムで2名以上のユーザーがCloud Proxyを利用しており、トークン単位での細かい利用状況の把握が可能です。Azure OpenAI ServiceやGemini、新モデル「Sarashina」など複数のモデルへの対応を1週間で実現できるという処理速度も特徴です。

背景と解説

ソフトバンクが2023年に開発を開始したCloud Proxyは、複数のLLMを一つのゲートウェイで管理し、セキュリティとスケーラビリティの両立を目指した基盤です。記事では、1人が3000件を超えるリクエストを処理する「1人100エージェント」構想を実現するうえで、セキュリティ層、ガバナンス層、可視化層という3つの課題を同時に解決する必要があることを指摘しており、Cloud Proxyがこれらの要件に対応する設計になっていることが強調されています。

特に注目される点は、新しいモデルの追加対応の速度です。従来は新しいLLMへの対応に時間を要していた可能性がありますが、Cloud Proxyはテンプレート化されたプロセスにより1週間での対応を実現しており、ユーザーの側での実装負担も軽減できるとみられます。また、Identity Providerとの統合により認証スコープを削減できる点も、企業のセキュリティ要件を効率的に満たす設計として機能しています。ソフトバンクは「Activate AI for Society」というビジョンを掲げており、このような基盤技術を通じてAIの安全で信頼できる利用環境を整備することで、企業や組織がAIを本格的に活用できるようになることを目指しているとみられます。

よくある質問

Cloud Proxyはいつから運用されていますか?
ソフトバンクは2023年からCloud Proxyの運用を開始しており、大規模言語モデルへのセキュリティ対応を実施しながら本格展開を進めています。
新しいAIモデルへの対応はどのくらいの速さで進みますか?
Azure OpenAI ServiceやGeminiなど新しいモデルを追加するため、テンプレートプロセスを用いて1週間での対応が可能な体制となっています。
Cloud Proxyで実現されるセキュリティの仕組みはどのようなものですか?
テナント(利用企業)と利用者ごとにInternal Keyを配布し、認証と認可をコントロールする仕組みです。Identity Provider(認証基盤)との連携により、AI利用時の認証スコープを70%削減できています。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝1分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →