AIエージェントの実行時セキュリティを強化するオープンソースプロジェクトがHackerNewsで公開され、プロンプトインジェクション、ツール悪用、データ流出を防止

Hacker News · 2026年4月16日

AI要約

•LLMパイプラインを保護するコントロールプレーンとして機能し、プロンプトインジェクション（難読化を含む）をリアルタイムで検出・ブロック
•ツールの直接実行を防止し、構造化されたツール呼び出しを強制、ポリシーに基づいた使用検証を実施
•個人識別情報（PII）や機密データの流出を防止し、すべてのアクティビティをストリーミング配信して検出と監査を可能化
•ゲートウェイレイヤー、コンテキスト検査、Open Policy Agentベースのポリシーエンジン、Apache KafkaとApache Flinkを活用したアーキテクチャで構成
•GitHub上でオープンソースプロジェクト（dshapi/AI-SPM）として公開され、本番環境のLLMシステムの実行時セキュリティ層の課題に対応