物理AIの3層攻撃リスク、VicOneがRadeis検証を提示

ロボットの安全論はこれまで「何かが故障したとき機械は安全を保てるか」を問うてきた。しかし物理AIはマルチモーダルセンサーで知覚し、AIモデルで文脈を解釈し、その解釈を物理動作に変換するため、安全は判断を導くデータの完全性に依存する。本記事は、この依存が従来の安全評価では捉えきれないリスクを生むと指摘する。

2025年にはBadVLAやGoBAといった研究が、隠れたトリガーで動作経路をずらすバックドア攻撃を実証した。BadNets以来の分類脆弱性は動作操作へと進化している。さらにUniPwnやROS 2、DDSの脆弱性は、モデル自体を攻撃せずとも命令の信頼性を損なう経路となる。実行時にはRoboPAIRやBadRobot、VLAttack、FreezeVLAが、知覚や推論への介入で安全境界を越えさせる例を示した。

こうした多層のリスクに対し、VicOneは設計時のリスク理解、導入前のシミュレーション検証、運用中の監視と封じ込めを組み合わせたライフサイクル保証を提案する。サイバーセキュリティは機能安全を置き換えるものではないが、攻撃下でも許容範囲に留めるための補完層として位置づけられる。実効性は、検証ツールが実環境の攻撃をどこまで再現できるか、運用監視が異常をいかに早く捉えられるかにかかっているとみられる。