CrowdStrikeがAIゲートウェイを一般提供

CrowdStrikeはFalcon AI Gatewayをまず自社内で使うために開発した。過去数年、世界各地の数万人の従業員に利用されてきた自社のAI Hubゲートウェイの経験を生かしている。この経験が製品設計を形作った。追加のホップごとに障害点と時間が増えるため、リクエスト経路を短く保つことを学んだ。また、ほとんどのチームはゲートウェイを自前で運用したがらないことが分かり、自社のニーズのために構築したものをFalcon Guardianの顧客に提供する運びとなった。

このゲートウェイは、承認済みの経路を唯一の経路にすることで既存の検出ツールを補完するが、AIトラフィックを自動で検出・リダイレクトするものではない。チームはネットワーク制御を使ってモデルプロバイダーへの直接接続を遮断し、ワークロードを意図的にゲートウェイ経由でルーティングする必要がある。ルーティング後は、管理者は接続されたモデルプロバイダー間を、すべてのワークロードを再設定せずに切り替えられ、アプリケーション、ユーザー、チーム、モデル、プロバイダー単位でレート制限と予算を適用できる。

Falcon AI GatewayとFalconセンサーは共通のFalcon Guardianポリシーモデルを共有するが、それぞれがポリシーの適用箇所で作用する。センサーはローカルプロセスやファイル、エージェントが実行するコマンドなどエンドポイントで作用し、ゲートウェイはルーティングされたトラフィックに作用してローカルプロセスは停止できない。この役割分担により、ゲートウェイはセンサーの適用範囲を超えて、SDK経由で直接モデルを呼び出すクラウドワークロードやカスタムアプリケーションにも適用を拡大する。