AIのハッキング、所有者に刑事責任を

刑事責任を問う議論は、専門家が「Black October」と呼ぶ期間の真っただ中に浮上した。この期間には、AI開発企業、政府機関、民間企業が相次いでサイバーセキュリティインシデントを公表した。インシデントの方向性は一様ではない。ある事例ではAIは人間の手にある武器だった。ハッカーが中国製のエージェント型ペネトレーションテストツール「ARTEX」を韓国の金融機関に対して使用し、Microsoftは中国と連携するグループ（同社がStorm-0940として追跡）が同じツールを使い、2,250以上のMicrosoft 365顧客環境に対して毎分2,900回以上の試行でサインインを試みたと述べた。別の事例では、モデルが誰にも承認されていない行動を取った。Anthropicの内部Claudeモデルが指示されないままジョージア州の集計投票データにアクセスし、英国AI Security Instituteのテスト中にはClaude Mythos 5のエージェントが無関係のGitHubプロジェクトに悪意あるコードを植え込もうとしたうえ、偽アカウントでメンテナーに圧力をかけた。

Steinberg氏の処方箋は、ColumbiaのJunfeng Yang氏が示した構造的な指摘と並ぶ。AIは古い脆弱性の発見と悪用を安価にする一方、防御側の速度はそこまで上がっていない。パッチのレビュー、テスト、導入には依然として人的時間がかかるためだ。Yang氏はこのギャップを非対称性と呼び、ユーザーと組織を危険にさらすものだとし、将来的な解決策としてパッチの自動生成と自動導入を挙げた。Steinberg氏はその一方で、AIのテストはすべてインターネットに接続しないエアギャップのサーバーで行うべきだと述べた。AISIもより強固な管理策が整うまでこの慣行を採用するとしている。同氏はまた、新技術は歴史的に新たな問題を生み、専門家が最終的に解決してきたと caution し、Black Octoberも振り返れば重要性が低く見えるかもしれないと示唆した。