AIToday

AI CostGuard は、OpenAI互換クライアントをラップしてAPI呼び出し前にコスト超過を検出・ブロックするローカル実行型の安全層

Hacker News2時間前2分で読める
AI CostGuard は、OpenAI互換クライアントをラップしてAPI呼び出し前にコスト超過を検出・ブロックするローカル実行型の安全層

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  1. 1

    AI CostGuard は、ランナウェイコスト、ループ、リトライ、および予算爆発をAPI呼び出し実行前に防ぐローカル最優先のランタイム安全層。OpenAI互換クライアントと関数型SDK呼び出しをラップし、リクエストコストをローカルで推定し、予算超過をブロックし、繰り返しプロンプトを検出する。

  2. 2

    ローカルダッシュボードとCLIチェックを提供し、SaaS制御プレーン、クラウドダッシュボード、プロキシゲートウェイ、テレメトリサービス、または請求調整サービスは含まない(ローカル最優先設計)。

  3. 3

    UNKNOWN_MODEL、BUDGET_EXCEEDED、MAX_STEPS_EXCEEDED、LOOP_DETECTED、RETRY_STORM_DETECTED を含むランタイムブロックコードを発行し、GuardError の例外をスロー。OpenAI SDK、Anthropic SDK、Vercel AI SDK、LangChain、Mastra、CrewAI のインテグレーション例を提供。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝5分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →