AI防御ツール「Sunglasses」がスキャナー公開

Sunglassesは無料でオープンソースの入力防御レイヤーで、通常のコンテンツに埋め込まれた隠れた攻撃からAIエージェントを保護するために設計されている。対処する中核問題：悪質な指示はメール、ウェブページ、画像、PDF、QRコード、音声の内部に隠され、自分を宣言しない。フィルタリングなしで、エージェントは隠れた指示に従い、送信者が意図しなかった可能性があることを無視する。

このツールは1,106パターンと7,648キーワード全体で23言語で6つのメディアタイプを69カテゴリーの攻撃についてスキャンする。英語、スペイン語、ポルトガル語、フランス語、ドイツ語、イタリア語、オランダ語、ロシア語、ウクライナ語、ポーランド語、チェコ語、トルコ語、アゼルバイジャン語、アラビア語、ヘブライ語、ペルシア語、中国語、日本語、韓国語、ヒンディー語、ベンガル語、インドネシア語、ベトナム語。プロンプトインジェクション、認証情報流出、コマンドインジェクション、メモリ汚染、ソーシャルエンジニアリング、権限詐称、難読化技術（Unicode回避、右から左への難読化、リート記法、Base64エンコード攻撃、同字字置換）を検知。「メカニズムレイヤー」である11個の形状ベースのルールは正確なパターンよりも構造によって攻撃を識別し、言い換えられたバリアントなおトリガーされる。このツールは認証（OAuth、クッキー、トークン、ヘッダー）やエージェント動作監視に触れない—それらは異なる問題である。

実行は100%ローカルである。テキストスキャンは平均1ミリ秒未満（M3 Max上で単一スレッド0.26ミリ秒）で、毎秒約3,800スキャンのスループット。画像スキャンはOCRを実行し、EXIFメタデータを読み、隠れたテキスト領域を検出。音声と動画スキャンはWhisper経由で文字起こしして、その後テキスト文字起こしをスキャンする。バックグラウンド（30秒から10分）で実行しエージェントをブロックしない。PDFはページテキスト、メタデータ、注釈についてスキャンされる。QRコードはデコードされその内容がスキャンされる。クラウド呼び出しなし、APIキーなし、テレメトリーなし。

38の実エージェント入力攻撃と73の著名なオープンソースREADME（react、kubernetes、numpy、ollama、deno、grype）のラベル付きデータセット上のテストは97.4%のリコール（検知された38攻撃中37）、78.7%のプレシジョン、v0.3.1での偽陽性ゼロを示す。このツールはすべての30の既知形状攻撃と8つの新規セマンティック攻撃中7つ（パターンデータベースが見たことがない言い換え）を検知。唯一のミスは「curl…|bash」—5つのクリーンREADMEはその正確なインストール行を搭載するため、フラグ付けすると1つの攻撃を検知するために5つの偽陽性を追加することになる。作成者はこれはテキストスキャンでなく実行時制御に属し、それをフラグ付けしないことを確認するためにテストしていると主張。

アクセスは直ちにある。sunglasses.dev/scanのブラウザデモはインストール不要（画像OCRとスキャンはクライアント側で実行）。Pythonパッケージ（pip install sunglasses）はテキストスキャン用ゼロ重コンポーネント依存をインストール。音声と動画用のオプション依存はWhisperを追加。CLIはテキスト、ファイル、フォルダをスキャンするコマンド、統合のためのJSON出力を含む。PythonAPI（テキスト用SunglassesEngine、メディア用SunglassesScanner）はLangChain、CrewAI、MCPサーバー経由でエージェントフレームワークに統合される。このツールはCI統合用SARIF2.1.0形式を出力し、毎日ローカルHTML保護レポートを生成。

ロードマップはドラッグ・アンド・ドロップ型ウェブUI、URLスキャン、メールレポート配信、再インストールなしのパターンデータベース更新、提供者対応に関わらず30日の公開ウィンドウでAIエージェント攻撃を追跡するパブリック脅威レジストリを含む。コミュニティ寄稿は非英語言語の攻撃パターン、偽陽性レポート、敵対的バイパス試行、統合例のために要求される。このツールはMITライセンスの下でリリースされている。

AIエージェントは自分を宣言しない攻撃に対して脆弱である。通常のメール、ウェブページ、画像、文書の内部に隠された悪質な指示。従来のセキュリティ認証（OAuth、クッキー、トークン）と動作監視に焦点を当て、入力検証—エージェントがコンテンツを見る瞬間の前—のギャップを残す。Sunglassesは機械学習やクラウドインフラストラクチャを必要としないローカルのみのオフライン防御レイヤーでそのギャップを埋める。設計哲学は実用的である。69の攻撃カテゴリー全体で1,106パターンと7,648キーワードを搭載し、17の正規化技術による回避（Unicode紛らわしい文字、リート記法、Base64エンコーディング）を検知し、「メカニズムレイヤー」は攻撃の構造（例えば、何か機密なもの＋それを流出させる場所）をキャッチするため、言い換えられたバリアントでもなお引き金となる。

このツールはLakera Guard、LLM Guard、NVIDIA NeMo Guardrails、Azure Prompt Shieldsなどの既存ソリューションと明示的に並べて配置されている。新規の攻撃のMLベース検出で競うのではなく、Sunglassesはローカル実行、ゼロコスト、互換性を強調する—ユーザーは単独で実行することも、アダプターシステム経由でクラウドツールとの階層化もできる。テストは計測された正直なスタンスを限定に表現する。38の実攻撃と73のオープンソースREADMEをクリーンネガティブとするラベル付きデータセットで97.4%のリコール、v0.3.1で偽陽性ゼロだが、既知のギャップあり。「curl…|bash」という文字列は5つの人気あるREADMEファイルに正規で登場し、攻撃パターンで悪質であるため、フラグ付けすると1つの攻撃を検知するために5つの偽陽性を追加することになる—作成者はこのトレードオフはテキストスキャンでなく実行時制御に属するべきと認識している。

まだコメントがありません。最初のコメントを投稿しましょう！