AIToday
大規模言語モデルHacker News掲載日時: 2026年7月16日 1:00

サポートエージェント、コード不要でAPI値を確実に

LINEで送る
サポートエージェント、コード不要でAPI値を確実に

3つのポイント

  1. 何が起きたか

    APIを呼び出すAIエージェントを信頼できるものにする方法を示すガイドで、「実行条件」(条件が満たされていない場合にアクションをブロックするサーバーサイドゲート)と「メモリに保存」(あるAPIレスポンスから値を取得し、次のステップに渡す)という2つの設定を使用します。架空の店舗向けのサポートエージェントの例では、注文を検索して返品を開始し、2番目のアクションは最初のアクションが実際に注文を取得した後にのみ実行されます。

  2. なぜ重要か

    APIを呼び出すエージェントは、正しく、かつ適切なタイミングで呼び出してこそ実用的です。プロンプトだけではこれを保証できません。決心した利用者はモデルをルール違反に導くことができますし、モデルが値を忘れて作り上げてしまう可能性もあります。信頼性の境界をプロンプトからサーバーサイドチェックに移すことで、エージェントの重要なアクション(返金開始など)はユーザー入力やプロンプトインジェクションによってバイパスされなくなります。

  3. 注目点

    このガイドは無料のテストAPI(DummyJSON)を使用した実際のエージェント上に構築されており、ゲートが毎回保持されていることを示す20回のテストを含みます。コーディングは不要で、両方の設定はアクションエディタの詳細設定に存在します。このアプローチはすべてのアクションを、モデルが制御する部分(判断と自由記述入力)とサーバーが制御する部分(ゲートチェック、シークレット、保存された値)に分割します。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

AIエージェントがアクションを取る機能を構築することは1つのタスクです。それを信頼できるものにすることは別です。この記事は、これら2つの間のギャップがほとんどのエージェントチュートリアルが不足している理由であると主張しています。API呼び出しを配線する方法を示してから終わります。本当の課題は、エージェントがそのAPIを呼び出すべき時にだけ呼び出し、それが必要とする値を前に進め、それらを失ったり、作り上げたりしないことを確保することです。

根本的な問題は、どれほど慎重に書かれたプロンプトであっても、厳しい境界として機能することができないということです。モデルはユーザー入力を読み込み、アクションを呼び出すかどうかについて確率的判断をします。賢い利用者や悪意のある利用者は、プロンプトインジェクションや説得を通じてその判断をオーバーライドできます。そのアクションが記録システムに書き込む場合、返金を開始する、返品を発行する、アカウントを変更するという場合、誤った呼び出しのコストは現実的です。解決策は、信頼性の保証をモデルの判断(アーキテクチャの左側)からサーバーサイド(右側)に移し、チャットが到達できない場所に置くことです。これが「実行条件」と「メモリに保存」が実現するものです。「実行条件」はリクエストがシステムを離れる前にチェックされるゲートであり、「メモリに保存」はモデルの推論を通してではなく、アクション間で値が決定論的に流れることを保証します。

よくある質問
AIエージェントがAPIを呼び出すべきでない時に呼び出さないようにするにはどうすればよいですか?
アクションエディタの詳細設定で「実行条件」を使用します。これはリクエストが送信される前に、会話のメタデータの条件をチェックするサーバーサイドゲートです。条件が失敗すると、リクエストは送出されず、アクションは安全な結果を返します。例えば、look_up_orderによってorder_idが既に設定されていない限り、create_returnをブロックできます。
モデルが値を忘れずに、あるAPI呼び出しから次の呼び出しに値を渡すにはどうすればよいですか?
アクションエディタで「メモリに保存」を使用します。レスポンス内の値を指す JSONPath式(例えば、idフィールドの場合は$.id)と、保存する「メモリキー」(例えば、order_id)を指定します。次のアクションはリクエストを構築する際に{{metadata_order_id}}として読み込みます。
プロンプトだけではアクションを確実にするのに十分でないのはなぜですか?
プロンプトは境界ではありません。モデルのアクション呼び出しの決定は確率的であり、間違っている可能性があり、議論されたり、プロンプトインジェクションされたりする可能性があります。決心した利用者や悪意のある利用者がその判断に頼ることができます。一方、実行条件はリクエストが送信される前にサーバーサイドでチェックされるため、チャットはそれを乗り越えることができません。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前
次の記事へMeta幹部、AIエージェント対応に20カ月必要と警告