AI支援調査で2日足らずにゼロデイ28件

VicOneの公表は、AIツールがソフトウェアの弱点を発見する速度を変えつつある時期に届いた。同社は、AIが脆弱性発見の一部を加速させ、研究者がより短時間でより多くのソフトウェアを分析できるようにすると述べ、攻撃者も同様の能力を使い得るとしている。弱点がゼロデイ——従来知られておらず修正プログラムもない——の場合、その速さはチームにほとんど対応時間を残さない。

28件の知見はロボティクスのライフサイクルの3段階、すなわち開発・訓練、シミュレーション・検証、導入・実行にまたがる。今回の調査対象では、知見の75%が開発、訓練、シミュレーション、検証の各ツールに関わり、ロボット導入前に生じ得るリスクを浮き彫りにした。VicOneは各段階で侵害されたコンポーネントがロボットに影響し得るシナリオを示している。例えば、改ざんされたモデルが定例テストでは正常に振る舞うが導入後に誤った応答をすることや、改変されたシミュレーションのセンサー値によって、不安全な挙動を露呈すべきテストにロボットが合格したように見えることなどだ。

VicOneはこれらが潜在的な帰結であり、すべての知見で実証された結果ではないと注記し、実際の影響は攻撃者のアクセス権、システム設計、変更が物理的な挙動に到達するのを他の安全策が防ぐかどうかに依存するとしている。別の実演でVicOneの研究者は、ロボットの遠隔停止コマンドを機能させなくする脆弱性を示し、基盤ソフトウェアが侵害されたとき安全策が有効なままでいるかをチームがテストする必要がある理由を例示した。調整された開示を通じて詳細が明らかになるにつれ、ロボティクスメーカーの次の課題は、各知見を開発、導入、ロボットの挙動への潜在的な影響に結び付けることだ。