AIToday
大規模言語モデルAIビジネス・産業Amazon AI Blog掲載日時: 2026年10月14日 4:00

Orca Security、自然言語クエリでコスト9割減

LINEで送る
Orca Security、自然言語クエリでコスト9割減

3つのポイント

  1. 何が起きたか

    Amazon Bedrock上のOrca SecurityのDiscovery AIは、コストを90%、入力トークンを93%、レイテンシを75%削減し、2026年3月以降、1日あたり数千件のクエリを処理している。

  2. なぜ重要か

    この自然言語クエリエージェントは、ユーザーが構造化クエリを手作業で書くことなく数千種類のクラウドリソースを照会できるようにしながら、この性能を達成した。

誰に効くか本来ならクラウドインフラを調査するために専門クエリ言語への深い習熟を必要とするセキュリティアナリストやクラウド運用チーム。同様の自然言語インターフェースを構築するベンダーにとっては、こうしたシステムが試作段階から本番へ移行しつつあることを示す証左となり得る。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Orca SecurityのSonarクエリシステムは900超のクラウドモデルを対象としており、照会には正確なモデル名、親子階層のナビゲーション、18の演算子からの選択が必要だった。初期の概念実証では、最大のモデル上の単一プロンプトに完全なスキーマを読み込ませたところ、出力品質は高かったが、ワークロードあたり約200万入力トークンを消費し、応答あたり約60秒かかった。

本番のDiscovery AIパイプラインはこれを置き換え、Amazon Bedrock上で検索拡張生成とスキーマ認識型のクエリ構築を組み合わせた9段階のアーキテクチャを採用した。Quick MatcherはIPアドレスやCVE IDなどの構造化入力をもモデル推論なしで処理し、Anthropic Claude Haiku 4.5上のModel Selectorはスキーマをリクエストが実際に必要とするモデルだけに絞り込む。最大の精度向上要因となったのは事例検索だった。Amazon Titan埋め込みを使った上位20件の最近傍探索を、Cohere Rerank 3.5で5件に再ランク付けすることで、Generatorはカバレッジを犠牲にせず、小規模で多様な事例セットを得られる。

チームは継続的評価ハーネスとドメイン専門家によるラベリングシステムも構築し、プロンプト、モデル、検索の変更が本番に到達する前に自動チェックを通過するようにした。Orca SecurityのAI担当ディレクターであるOr Gabay氏は、ラベリングUIを長期的な品質にとって最も重要な投資と位置づけ、Discovery AIを静的な導入物ではなく生きたシステムへと変えた。

よくある質問
Orca SecurityはDiscovery AIでどのような成果を上げたか?
Discovery AIは当初のベースライン比でクエリコストを90%、入力トークン使用量を93%、レイテンシを75%削減した。2026年3月以降、本番環境で1日あたり数千件のクエリを処理している。
Discovery AIはSonarスキーマ全体を毎回のプロンプトに読み込むことをどう避けているか?
Anthropic Claude Haiku 4.5上で動作するModel Selectorが、900超のSonarモデルを各リクエストに関連するものだけに絞り込む。その後Generatorは、選択されたモデルについてのみ完全なスキーマ詳細を受け取る。
顧客環境の変化に応じてDiscovery AIの精度を保つ仕組みは?
社内のラベリングツールにより、プロダクトマネージャー、サポートエンジニア、セキュリティリサーチャーがクエリにフラグを立てて出力を修正し、修正内容が事例バンクに反映される。信頼度の低い事例マッチングが行われた本番クエリは、毎日のラベリングのためにドメイン専門家へ回される。
Amazon AI Blog元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へGemini 4 Argon、開発者と企業に提供開始