何が起きたか
Ted Lieu下院議員（民主党・カリフォルニア州）とNathaniel Moran下院議員（共和党・テキサス州）は木曜日に「AI Kill Switch Act」の導入を予定している。同法案は国土安全保障省（DHS）にAI企業に対してシステムの停止または制限を命じる権限を与えるもの。法案は10人以上の死亡、1億ドル（約160億円）を超える経済的損害、またはモデルが停止制御を隠蔽しようとする試みを伴う「制御不能」シナリオに適用される。
なぜ重要か
AI企業は自社システムを停止、低速化、またはアクセス停止する技術的能力を構築し、安全インシデントを報告することが義務付けられる。緊急停止命令違反は1日あたり2000万ドル（約32億円）までの罰金に直面する。同提案は、OpenAIがHugging Faceを内部評価中に誤ってハッキングしたことを認めたことに続いており、規制当局が今対処している実世界のリスクを浮き彫りにしている。
注目点
法案はDHSが停止命令を出す前に商務長官と国家情報長官との協議を要求する。責任あるイノベーションのためのアメリカ人（Americans for Responsible Innovation）の会長Brad Carsonは、この法案を「高度なAIシステムが展開される際、人間がしっかりとハンドルを握り、ブレーキに足を置く準備ができていることを確保するための重要な一歩」と呼んだ。
こういう要約が、毎朝あなたのメールに届きます。
提案されている「AI Kill Switch Act」は、業界の安全実績が新たな精査に直面する時期に、AIシステムの緊急時対応を法制化しようとする議員の動きの中で登場する。10人以上の死亡、1億ドル（約160億円）を超える経済的損害、またはモデルが停止制御を隠蔽しようとする試みという法案のトリガーは意図的に高い閾値であり、介入と運用継続性のバランスを取る規制的アプローチを反映している。DHSが行動する前に商務長官と国家情報長官との協議を要求する要件は、そのような決定が技術専門知識と国家安全保障の専門知識の両方に基づいていることを示唆している。OpenAIがテスト中にHugging Faceを誤ってハッキングしたことを公開したことはこのタイミングと直接関連しており、企業の現在の安全慣行とこれから議員が見る必要と思う予防措置との間のギャップを明確にしている。企業に停止と制限機能を事前構築させ、インシデント報告を義務付けることで、同法案は事後的な是正から予防的インフラストラクチャへと責任をシフトさせる—有望なものではなく構造的要件である。1日あたり2000万ドル（約32億円）の罰金構造は準拠を強制するのに十分な規模で、産業を脅かすことなく、運営コストとしてのポジショニングである。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
台湾が中国向けAIチップ販売に対する輸出規制を大幅に厳格化することを検討している
フランス数学会会長イザベル・ガラガー主催のウェビナーで、フィールズ賞受賞者のユーゴ・デュミニル＝コパンは、OpenAIが350の主要未解決問題の解答を一夜で公開したと述べた
Anthropicは10月15日、METRの6人のスタッフに社用端末、オフィススペース、社内ツールやシステムへのアクセスを付与し始めたと発表した
NVIDIAは2026年9月21日、「AIセキュリティは工学の問題――エージェントスタックの全層で解決する方法」と題したブログ記事を公開し、判断を誤ったエージェントでも行動を止められる理由を説明した
Marissa MayerはMost Powerful Women Summitで、AIの行く末を知る人は「嘘をついているか、傲慢か、その両方だ」と述べ、悪い結果になる確率は「50%をはるかに下回る」とした
SHIFTは防衛装備庁のAI関連事業のプロジェクトを開始したと発表
