何が起きたか
アンソロピックが草案を流布している法案は、独立評価者が生物兵器、モデルによる制御回避、サイバー攻撃で50人超の死亡や10億ドル超の財産被害という予見可能かつ差し迫ったリスクを認定した場合に限り、AIモデルの公開を阻止する。
なぜ重要か
この法案は連邦機関が独自にモデルを停止することを禁じ、停止はD.C.の裁判官を通す仕組みで、強制的な監督より業界に優しい道筋だが、評価者への報酬が結果に影響しないかは不明だと同団体は注記する。
誰に効くかAIラボとそのコンプライアンスチームは、高リスクモデルを公開するための明確で裁判所の関門を経た手続きを得る一方、商務省に登録された独立評価者は有償の関門層となり、その報酬の独立性は草案では不明確なままとなる。
こういう要約が、毎朝あなたのメールに届きます。
アンソロピックの草案は、AI安全をめぐる1年にわたる議論の末に登場し、同社のAdvanced AI Frameworkに続くもので、広報担当者によれば6月以来、連邦および州の議員に働きかけてきたという。法案の50人と10億ドルという閾値は、同様のシナリオを破滅的リスクとして扱うカリフォルニア州法SB53（最近成立）と響き合い、草案が州レベルの取り組みから借用したことをうかがわせる。
仕組みは単純な機関による禁止とは異なる。登録された独立評価者が72時間以内に商務省へ差し迫ったリスクを通報し、同省がD.C.の裁判官に公開停止を求め、連邦機関は単独行動を明示的に禁じられる。評価者は、報酬が結果に連動しない限りAIラボから支払いを受けられるが、それで報酬が評価に影響し得ないことをどう保証するのかは不明だ。DeepMindのDemis Hassabisは別途、FINRAを模した自治機関を提唱している。
草案は、強制的な監督や任意の内部評価者制度への業界の抵抗を背景に位置し、AI業界に新法は不要とするNvidia CEO Jensen Huangの最近の主張などの提案よりわずかに踏み込んでいる。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Pi 0.84.2をclaude-sonnet-4-5で試すと、rmに{ block: true, reason }を返すフックはクラッシュせず通常のツールエラーになり、event.input.commandへの書き換え…
中国政府は、中国のAI企業のモデルであるDeepSeekを米政府機関から排除した米国を批判し、両国首脳間の共通認識を顧みないものだと述べた
Hugging Faceの共同創業者兼CEO、Clem Delangue氏は、Netflixのドキュメンタリー『AI Gone Rogue』は不正確だと述べ、「完全な終末論モード」だと評した
Hugging Face CEOのClément Delangue氏はXでNetflixの「AI Gone Wild」が完全に破滅論モードでAIを擬人化していると批判し、2時間以上の訂正が通用しなかったと述べた
Boeingは火曜日、Microsoftとの共同開発による全社的な航空機情報を集約するAIデータ基盤Datalinerを発表した
CrowdStrike HoldingsはGTIA Managed Intelligence Allianceの創設パーティメンバーになった
