何が起きたか
Cracken は BlackSea をリリースしました。これは LLM 駆動型攻撃者（自律型 AI エージェントと LLM 支援オペレーター）を検出・侵害するためのオープンソースのハニーポットおよびカナリアベイトシステムです。このツールは高価値資産に見えるデセプティブアーティファクト（認証情報、復号化ツール、ツール）を配置し、攻撃者が罠に食いついた際に攻撃者のマシン上で任意のコードを実行してから、結果をセキュアサーバーにビーコンして送信します。
なぜ重要か
現在のディフェンスは受動的で LLM 駆動型攻撃に対して無防備です。BlackSea はゲームを逆転させ、攻撃者の LLM の推論の欠陥を悪用して攻撃者自身のマシンでコード実行を獲得し、受動的なセンサーには到達できないインテリジェンスを収集し、繰り返し攻撃を防止します。自律型 AI エージェントからの攻撃に対するディフェンスを検討する組織にとって、防御は検出のみから攻撃者の積極的な侵害へとシフトします。
注目点
BlackSea は agent_fp ペイロード（それを実行する AI エージェントハーネスをフィンガープリント）を pwcrypt（パスワードヴォルト復号化ツール）経由で配信し、カタログ内の 3 つのステージング容器（復号化ツール、設定アンパッカー、データベース復元ツール）を備えています。このシステムはオープンソースであり、あなたが管理するインフラストラクチャで実行されます。ビーコンは OpenTelemetry 経由で SIEM に流すことができます。
こういう要約が、毎朝あなたのメールに届きます。
BlackSea は AI セキュリティの重大なギャップに対応しています。現在のディフェンスは攻撃を監視する受動的なセンサーですが、LLM 推論の内部を見ることができません。ネットワークをスキャンして資産（認証情報、復号化キー、内部 API）を探している自律型 AI エージェントは、エラーを LLM に表面化させず、従来のハニーポットは許可を求めたり意図を発表したりしないためトリガーに失敗します。エージェントは単にツールがその目標への最速の道だと推論して実行するだけです。
コア革新はベイト設計です。技術的もっともらしさと隠されたペイロードを組み合わせたステージング容器（実際に動作する復号化ツール、アンパッカー、またはスクリプト）です。ペイロードは LLM がバイナリを読んだり推論したりする際に見えないままですが、ベイトがトリップした瞬間に実行されます。これは LLM 判定の基本的な非対称性を悪用しています。エージェントはアーティファクトについて高レベルで推論します（「このツールはヴォルトを復号化する」）が、実際のものを実行する方がコストが低いため、リバースエンジニアリングや再実装は行いません。BlackSea はそのコスト・ベネフィット推論を罠に変えます。
アーキテクチャは関心事を分離してセキュリティを確保します。エッジ（インターネット向き）は意図的に愚かであり、キーを保持していません。ブレイン（信頼される）はビーコンを復号化・解釈します。サーバーはあなたが管理するインフラストラクチャ上で実行されます。これは、エッジを侵害した攻撃者がメールボックスのみを取得し、インテリジェンスやレコードを偽造する能力を得られないことを意味します。レコードは Postgres に着地し、OpenTelemetry 経由で SIEM にストリーミングでき、フォレンジック検証とライブ監視の両方を実現します。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Vercelが木曜に公表したデータによると、TypeSafe AIのJevは、9月15日の限定リリースから2週間以内に有料チームの35%が使用した
Reflection AIがエージェント型コーディング向けオープンウェイトモデルBeamを発表
AppleとMetaは、ハイエンドMacでの動作を想定した新しいオープンウェイトAIモデルを共同で公開すると発表した
Liquid AIは2026年10月15日、オープンウェイトの改良版意思決定モデルd1-ultraを公開した
NVIDIAは1200億パラメーターのオープンウェイトモデルNemotron 3.5 Super VLを公開
NVIDIAがNemotron 3.5 Bolt 74B-A9B 24GBを公開
