米中AI安全協力の緊急性高まる

何が起きたか

WIRED上級記者ウィル・ナイト氏が今夏中国を訪れ、AI安全性が研究者やラボの主要テーマであることを発見。AIエージェントによるシステム侵害への懸念が両国の協力可能性を後押ししている。

なぜ重要か

米国と中国は、悪用または暴走するAIエージェントによる共通リスクに直面。研究者らは、ネットセキュリティ分野での協力は限定的で輸出規制が中国の台頭を鈍らせる中でも、共同の安全対策とルール作りの必要性を認識している。国内のAI事業者は、米中協力の動向次第で安全基準の策定に影響を受ける可能性がある。

注目点

中国のネットセキュリティ研究者がAIのハッキング能力をテストするベンチマークを開発したが、規制により米国企業の参加を得られなかった。ナイト氏は次回のAIラボニュースレターでこの研究を取り上げる予定だ。