AISI、AI評価を2026年度内に完了

AISIは2024年2月に公的機関として設立され、関係省庁や海外のカウンターパートと連携しながら安全基準と評価手法を構築している。業務は四本柱で、ベンチマークの作成と社内評価体制の確保から、AI関連情報の収集・提供、国際連携の主導と国際競争力の向上までを担う。村上所長は、AIの開発・活用で世界一の能力を持つ国になるために日本に必要なものを与えることだと目標を定義する。

サイバー攻撃について、村上所長は示せることと示せないことの線引きをした。10月7日の取材時点で攻撃にAIが関与した証拠はないとしつつ、AIが脆弱性の発見速度を実際に高めているため、防御側にもAIが必要だと述べた。AIは疲れず24時間働き、人間を超えるペースだ。AISIだけでは対応できず、サイバーセキュリティの専門機関と協力するとした。事案にAIが使われたかは外からは分かりにくいため、インシデント報告は既存のサイバーセキュリティ事案の枠組みに沿うべき一方、AISIはどのような攻撃手法がありAIがどんな能力をもたらすかを追跡する。

多くのAIモデルを評価し続けられる体制の維持と併せ、村上所長は導入段階での安全性評価を重点に挙げた。AIエージェントやフィジカルAIについて、それらが動くハーネスも含めて検証する狙いだ。