AIToday
大規模言語モデルAI安全性・アラインメントHacker News掲載日時: 2026年7月25日 16:01

AIエージェント、自社ツール半数を把握できず

LINEで送る
AIエージェント、自社ツール半数を把握できず

3つのポイント

  1. 何が起きたか

    あるチームが本番プラットフォームのセキュリティとコード品質を向上させるため、1回のセッションで15個のAIスキルをインストールした。15個すべてが正常に動作したが、発見可能性の監査により、8個(53%)は他のエージェントから見えなかったことが判明した。原因は3~5行のメタデータ、特にマッチングシステムがエージェントのクエリと関連スキルを結びつけるトリガーフレーズが欠落していたためだ。

  2. なぜ重要か

    AIエージェントが既存ツールを発見できない場合、ゼロからソリューションを再構築するか、脆弱性を検出できる機能を使わないまま進む。見えないスキルの問題は静かに複合化する。エラーが発生せず、アラートも発火しないため、実在するツールとエージェントが実際に発見できるツールの間のギャップが検出されないまま広がっていく。規模が大きくなると(数百~数千のツール)、無駄な作業が増え、セキュリティのギャップが埋まらないままになる。

  3. 注目点

    対策には3つのステップが必要だ。作成時にすべての新しいツールにメタデータ(トリガーフレーズ、説明、タグ)を組み込む、インストール後に発見可能性監査を実施してメタデータが足りないツールを見つける、複数の発見サーフェス(トリガーマッチング、セマンティック検索、プロトコルサーバー、レジストリ)でツールを検証する。1つのチャネルだけに頼ってはいけない。15個すべてのスキルは適切なメタデータを得てツーリングデータベースに登録されると、発見可能になった。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

発見問題は2つのダイナミクスの交点で生じる。ツールはそれがどのように発見されるかとは独立して機能し、エージェントには知識ギャップを露出させるはずの人間フィードバックループを欠いている。人間チームが機関知を失うと、やがて誰かが気付く。新入社員が答えられない質問をするか、プロセスが破綻するかだ。AIエージェントにはそのようなシグナルがない。見つからないが機能するツールはエラーを出さず、アラートを発火させず、痕跡を残さない。代わりに、システムディレクトリに静かに蓄積されていく。将来的に同じ問題に直面したエージェントは、ゼロからソリューションを再構築するか、そのツールなしで進むだけだ。

監査結果はギャップを具体的に明らかにした。すべてのカスタム構築スキルが発見メタデータを含んでいた。チームは作成時に問題を予見していたからだ。すべての外部スキルがそれを欠いていた。外部ソースがこの特定システムの発見要件を知る方法がなかったからだ。対策であるトリガーフレーズの追加は、作成時にはほぼ無コストだが、後付けは高コストだ。チームはこれを明示的な検証を通じて発見した。しかし、より深い洞察は、ほとんどのシステムがそのような検証ステップを全く持たないということだ。発見監査を実施しなければ、15個すべてのツールは完璧に機能しているように見え、53%の非表示化は今後のセッションを通じて無限に複合化しただろう。規模が大きくなると、1000個のツールで、問題は単なるハウスキーピング課題ではなく、戦略的なボトルネックになる。

よくある質問
なぜ外部ツールは見えず、カスタム構築のツールは見えたのか?
7つのカスタムスキルは発見メタデータを組み込んで作成されていた。つまり、マッチングシステムがエージェントのクエリと関連スキルを結びつけるためのキーワードトリガーフレーズだ。8つの外部スキルはセキュリティ研究機関およびオープンソースリポジトリから取得したもので、機能はすべて揃っていたが、そのメタデータが欠落していた。
メタデータ自体はどのような形式か?
スキルごとに3~5行のYAML形式で、トリガーフレーズをリストアップする。たとえば、セキュリティ監査スキルの場合は「security vulnerability」「injection prevention」「XSS prevention」「security review」といったフレーズを列挙する。これらの行がなければ、スキルは使われないままになる。あれば、エージェントが関連コードに遭遇すると自動的に活動する。
監査はいくつの発見サーフェスをチェックしたか?
5つの異なるサーフェスだ。プロトコル自動リスト登録(プロトコルサーバーに登録されたツール)、トリガーマッチング(メタデータ内のキーワードフレーズ)、ツーリングレジストリ(スラッグとタグで検索可能なデータベース)、セマンティックスウォーム検索(セッション全体のベクター埋め込み)、レジストリセマンティック検索(レジストリ上のトークン対応検索)である。見えない8つのスキルはトリガーマッチングで失敗し、ツーリングデータベースにも登録されていなかった。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へ韓国がシリコンバレーでAI協力推進枠組みを発表