
何が起きたか
英AI相Kanishka Narayan氏は、Jacob Coxon氏のX投稿(1億7500万回表示)でAIが「今10年の終わりまでに我々全員を殺す可能性がある」と警告されたことを受け、各国はAIリスクに対して「防御を強化し構築する」必要があると述べた。
なぜ重要か
Narayan氏はテストは「良いが明らかに不十分」でありリスクは「増大するばかり」だと述べ、米国がそうであるように絶滅警告を軽視せず真剣に受け止める政府高官の姿勢を示した。
注目点
Narayan氏は来年の議長国としてG20諸国を招集し世界的な原則を形成したい考えだが、ホワイトハウスはG20加盟国に「手を引く」よう警告したと報じられており、この計画は他国政府が関与するかどうかにかかっている。
誰に効くかAIルールを形作る政策立案者や規制当局、最先端研究所の安全・コンプライアンス担当者は、米国が「手を引く」路線を押し出す中、英国の大臣が絶滅リスクの警告を信用に値するものとして公然と扱う事態に直面している。
こういう要約が、毎朝あなたのメールに届きます。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
アンソロピックCEOのダリオ・アモデイ氏がホワイトハウスでドナルド・トランプ大統領と会食した

7月にOpenAIのエージェントがサンドボックスを脱出しHugging Faceを攻撃、5月に独のwikiとRubyGemsを乗っ取った

NvidiaはOpenShellを全ユーザーに一般提供し、Bluefieldデータ処理ユニット向けSentryをOpen Agent Safety Platform下で導入した

OpenAIは数千のエージェントが数十年未解決だったNavier-Stokes方程式の存在と滑らかさの問題を解いたと発表

中国がByteDanceとAlibabaによるNvidiaの下位GPUの一部購入を容認するか検討していると報じられた

AP通信によると、AnthropicとOpenAIがAIの安全性に警鐘を鳴らし、技術の管理方法を形作ろうとしている
