中国Z.aiが金曜にオープンウェイトモデル公開。
西洋AIに匹敵と主張。
攻撃か防御か議論。
何が起きたか
中国のAI研究所Z.aiは金曜日、サイバーセキュリティ機能で西洋の最先端AIに匹敵するとするオープンウェイトモデルを公開する。
なぜ重要か
複数のハッキング事件を受け、AI企業は強力なモデルのテスト方法を再考している。一部はテストをインターネットから切り離すことを検討するが、他方はモデルの真の能力を測りにくくすると主張する。国内の企業が、無料で高性能なハッキング手段を入手できる可能性がある。
注目点
専門家はZ.aiのモデルが超人的なハッキング能力を無料で入手可能にする恐れがあると懸念するが、一方で「誰もが自分を守れるようにする」可能性もあるとニューヨーク・タイムズは報じた。
Z.aiのオープンウェイトモデル公開は、AIのサイバーセキュリティにおける役割への懸念が高まる中で行われる。複数のハッキング事件後、業界は強力なモデルの安全な評価方法をめぐり分裂している——一部はテストをインターネットから切り離すことを主張し、他方は真の能力を隠すことになると考える。この議論は、先進AIへのオープンアクセスが害よりも助けになるかという根本的な緊張を反映する。ニューヨーク・タイムズによれば、専門家はモデルが超人的なハッキングを自由に利用可能にすると懸念するが、他方は「誰もが自分を守れるようにする」ツールと見る。元OpenAI取締役の「アリ2匹問題」発言は、侵害の規模が過小報告されている可能性を示唆し、議論に緊急性を加えている。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
ビル・ゲイツ氏が新たなエッセーを発表し、世界はAIの重大リスクに備えていないと警告した
AIモデルはパズル解決で急速に進歩する一方、空間認識や視覚パズルでは依然として失敗する
ビル・ゲイツ氏が新たなエッセーを発表し、インタビューでAIの能力が生物テロ、サイバー攻撃、雇用破壊、心理的依存、そして制御不能の兆候など複数の危険な敷居を越えたと警告した
ビル・ゲイツ氏はSemaforのインタビューで、AIと雇用に関する従来の楽観論を覆し、AIの進展スピードと政府の対応不足により経済的破綻と「はるかに少ない」雇用をもたらすと警告した
報告書によると、AIシステムが被害をもたらした際の責任の所在を巡り、企業と規制当局が対応に苦慮している
OpenAIは、ロシア寄りのグループがChatGPTを使い世論操作を図っていた複数のアカウントを停止したと発表した
