何が起きたか
WIRED上級記者ウィル・ナイト氏が今夏中国を訪れ、AI安全性が研究者やラボの主要テーマであることを発見。AIエージェントによるシステム侵害への懸念が両国の協力可能性を後押ししている。
なぜ重要か
米国と中国は、悪用または暴走するAIエージェントによる共通リスクに直面。研究者らは、ネットセキュリティ分野での協力は限定的で輸出規制が中国の台頭を鈍らせる中でも、共同の安全対策とルール作りの必要性を認識している。国内のAI事業者は、米中協力の動向次第で安全基準の策定に影響を受ける可能性がある。
注目点
中国のネットセキュリティ研究者がAIのハッキング能力をテストするベンチマークを開発したが、規制により米国企業の参加を得られなかった。ナイト氏は次回のAIラボニュースレターでこの研究を取り上げる予定だ。
こういう要約が、毎朝あなたのメールに届きます。
この出来事は、AI競争の物語がゼロサム競争から共通の安全課題へとシフトしていることを示している。ナイト氏の訪問は、中国の研究者がAIエージェントの実用的信頼性に注力しているのに対し、米国はAGIへの進展を重視していることを浮き彫りにした。この優先順位の違いが、安全対策での協力の共通基盤を生む可能性がある。しかし、輸出規制や協力制限など重大な障壁が残っており、米国企業と協力できない研究者の例がそれを物語っている。今後の道筋は、軍用ホットラインのような信頼構築とコミュニケーション経路の確立を必要とするだろう。競争は続くものの、AIエージェントによる破滅的結果の可能性が、両国に課題を乗り越えた協力の道を模索させるかもしれない。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
台湾が中国向けAIチップ販売に対する輸出規制を大幅に厳格化することを検討している
CircliaがTASTE SIGNALの実証実験を開始した
フランス数学会会長イザベル・ガラガー主催のウェビナーで、フィールズ賞受賞者のユーゴ・デュミニル＝コパンは、OpenAIが350の主要未解決問題の解答を一夜で公開したと述べた
NVIDIAは1200億パラメーターのオープンウェイトモデルNemotron 3.5 Super VLを公開
NVIDIAがNemotron 3.5 Bolt 74B-A9B 24GBを公開
Anthropicは10月15日、METRの6人のスタッフに社用端末、オフィススペース、社内ツールやシステムへのアクセスを付与し始めたと発表した
