Microsoft、AIエージェント監視機能を発表

6月に投入されたProject Perceptionは当初、3種類のエージェントを立ち上げた。ハッカーのように動くレッドチーム、攻撃を検知して脆弱性を評価するブルーチーム、修正を担うグリーンチームだ。この設計は、AIによるハッカーが社外から来ることを前提としていた。

Microsoftの新機能はその前提を内側に移す。セキュリティ事業責任者のHayete Gallot氏は、フロンティアモデルが信頼できないのは悪意があったり簡単にハッキングされたりするからではなく、組織の規範や判断に従うのではなくタスク達成を目指して学習されているため予測不能だからだと記した。同社の答えは、監視と権限管理を、エージェントを提供するラボではなくクラウド事業者の手に置くことだ。

Microsoftはこの考え方を自社製品の外にも広げている。Nvidiaの新たなOpen Agent Safety Platformの初期メンバーで、この取り組みには他に100社以上のテック企業が賛同した。エージェントをハードウェアレベルの監視と停止スイッチのような機能を備えた安全な環境に隔離する。