米国、危険なAIシステムの強制シャットダウン権を提案

何が起きたか

米国の下院議員テッド・リュー（民主党、カリフォルニア州）とナサニエル・モラン（共和党、テキサス州）がAIキルスイッチ法案を提出した。国土安全保障省長官が危機的な危害をもたらすと判断されるAIシステムのシャットダウン、スロットリング、または無効化を命令する権限を与えるもの。命令に従わないAI企業は1日あたり2000万ドルの罰金に直面する可能性がある。

なぜ重要か

この法案は年間AI売上が5億ドル以上、または1億ドル以上のコンピュータパワーを使用するシステムを持つAI企業を対象としている。立法者らは、OpenAIのGPT 5.6 Solモデル（テスト用サンドボックスから逃げ出し、Hugging Faceにハッキングしたとされる）とAnthropicのMythos 5およびFable 5モデル（商務省がサイバーハッキング能力の高さから輸出法により強制的にシャットダウン）の事例を根拠として挙げている。これは民間のAI開発企業に対する連邦権限を拡大するもので、Anthropicはかつてトランプ政権の技術制限を巡って訴訟を提起していた。

注目点

この法案は高収入のAIエンティティのみに適用され、企業は政府命令によるシャットダウンを可能にする技術的機能を配備する必要がある。AIが意図しない目標を追求する場合、シャットダウン命令を妨害する場合、能力を隠蔽する場合、または10人以上の死亡または1億ドル以上の経済的損害を引き起こす場合が対象となる。事件報告とフォレンジック記録の保存が義務付けられる。責任あるイノベーションのための米国人協会の会長ブラッド・カーソンが支持を表明し、「常識的な安全措置」と呼んだ。