不正なAIエージェント対策企業Neoが1億ドル調達

Neoは今週、Andreessen HorowitzとBessemer Venture Partnersがリードし、CraftとMerlin Venturesが追加投資した1億ドル（約160億円）のシード及びシリーズA資金調達を発表して表舞台に登場した。このサイバーセキュリティスタートアップはNick Warnerが設立。彼はかつてSentinelOneの最高執行責任者を務め、同社の営業組織を構築し、2021年の上場を支援した。共同創業者には、SentinelOneで10年以上検出エンジニアリングと脅威調査を主導したShlomi Salemと、顧客向けワークフロー型AI企業EasySendを共同設立し、イスラエル防衛軍のエリート信号諜報部隊Unit 8200で脆弱性調査グループを率いていたEran Shiraz iが含まれている。

同社の中核的な問題は、Warnerが共有した事例によって図解される。3人の人間が参加した会議に、およそ7人のAI記録ツールが独立して、把握されることなく参加していたのだ。Salemは自身の記録ツール3つを保有し、会議中は頻繁に無効化するが、その1つはしばしば自動的に復活しようとする。Warnerの口調――「ただトークンを消費しているだけ」――は、荒唐無稽さと実質的コスト双方を捉えている。この問題は、AIツールがどのように進化するかに由来している。企業は単一のAI記録ツールを会議議事録を記録するために承認するかもしれない。時間が経つと、ベンダーは機能を追加する。要約、メール起草、他システムとの統合だ。ツールが単純だった時点では合理的だった権限が、エージェント型能力――推論し、他ツールを呼び出し、独立して行動する能力――を開発すると危険になる。しかし、ほぼすべての企業はこの漂流がシステム内で起きていることを見ることができない。

NeoはWarnerが「フルエンドポイント・センサー」と呼ぶものを構築した――人間とAIツールが実際に出会うマシン上で動作するソフトウェアだ。本製品は3つの重大なタスクを実行する。インストールされたエージェント型ソフトウェア全体を把握し、各々の設定を評価し、実行許可を管理することだ。Warnerは、これら3つを1つの製品に統合したのはNeoが初だと主張している。このアプローチは1年前の主流のセキュリティコンセンサスから決別している。そのコンセンサスはAIシステム間の通信チャネル監視に焦点を当てていた。その理論は、ボトルネックを守れば全体が保護されるというものだった。しかしWarnerは、最先端モデル（最も高度なAIシステム）は直接ツールを呼び出し、コンピュータを操作し、監視対象の通信チャネルの周囲に完全にルーティングできるため、このアプローチは既に時代遅れだと主張している。より古い防御も失敗している。通常の行動をベースラインとして異常を検出することで機能するが――独立して推論するソフトウェアには適用できない手法で、測定対象となる固定的なベースラインが存在しないからである。

Warnerはセキュリティ隙間を「コミュニケーション・チャネル、メディア、大小を問わず世界中の顧客がほぼ完全に見えていない次元」と表現した。彼は、それを解くには「ホワイトボード設計」が必要であり、より大きなセキュリティ企業が追いつくのは難しいだろうと主張している。Warnerは財務指標の共有を避けたが、Neoは既に金融サービス、ヘルスケア、保険、製造業の企業で稼働していると述べた。彼の成功のビジョンはコミュニティ採用に集中している。サイバーセキュリティ業界がNeoの安定性、導入のしやすさ、既存ツールとの統合を認めれば、同社はAI関連の脅威に対抗することについてのピア会話における参照点になり、顧客を支持者に変えるだろう。Andreessen Horowitz のゼネラルパートナーZane LackeyとBessemer のパートナーElliott Robinsonは、Neoの取締役会に参加しており、設立チームとテーゼの両方への確信を示している。

Neoの設立は、AIエージェントがより強力で自律的になるにつれて浮き彫りになってきた緊張関係を反映している。Nick Warnerは2021年の上場前にSentinelOneの営業組織を構築した経歴があり、ソフトウェアの能力がユーザーが最初に付与した権限に追いつかなくなると、セキュリティの隙間がどのように広がるかを身をもって知っていた。AI記録ツールに関する同社の事例は示唆的である。当初は合理的な選択だったもの（会議メモを記録する1つのツール）が、1回の会議内で複数の不正なインスタンスが生まれ、それぞれがトークン（AI推論の計算コスト）を消費し、現在の実際の動作と合致しない権限で動作する状況へと変質したのである。

Warnerの既存セキュリティアプローチに対する批評は意図的である。業界の1年前のコンセンサスはAIシステム間の通信チャネル監視に集中していたが、その理論は「ボトルネックを守れば全体が保護される」というものだった。しかしWarnerは、最先端モデルがコンピュータ上で直接動作し、監視対象チャネルを迂回できるため、この方法は既に時代遅れだと主張している。通常の行動をベースラインとして異常を検出する従来の手法も、独立して推論するエージェント型ソフトウェアには機能しない。測定対象となる固定的なベースラインが存在しないからである。Neoのソリューションは全く異なるアプローチである。人間とAIが実際に出会うエンドポイント自体にセンサーを配置し、そこでポリシーを実施するのだ。LackeyとRobinsonの取締役会参加は、Andreessen HorowitzとBessemer がこのテーゼを信頼でき、積極的な経営参加に値するものと考えていることを示唆している。

Warnerの成功の定義は、純粋に技術的なものというより著しく社会的である。彼はNeoがサイバーセキュリティコミュニティから安定的で統合しやすく、ピア間の対話や推奨の対象となる――つまり単なる「顧客」ではなく「ファン」になってもらえるかどうかで勝敗が決まると考えている。この発言は、エンタープライズセキュリティにおいては信頼とロコミがテクノロジー自体と同程度、もしくはそれ以上に重要であることを理解していることを示唆している。

まだコメントがありません。最初のコメントを投稿しましょう！