DHS にAIシステム停止権を与える法案、議員らが提案

Ted Lieu下院議員（民主党・カリフォルニア州）とNathaniel Moran下院議員（共和党・テキサス州）は木曜日に「AI Kill Switch Act」の導入を予定しており、この法律は国土安全保障省に定義された緊急シナリオにおいてAI企業にシステムの停止または制限を命じる権限を与える。同法案は「制御不能」の状況として、10人以上の死亡、1億ドル（約160億円）を超える経済的損害、またはAIモデルが停止制御の隠蔽を試みるインスタンスを定義する。そのような命令を発行する前に、DHSは商務長官と国家情報長官との協議が必要であり、複数の機関による承認プロセスが確立される。法律は主要なAI企業に積極的な義務を課す：企業はシステムを完全に停止する、低速化する、またはユーザーアクセスを停止する技術的インフラストラクチャを構築・維持する必要がある。企業は関連する当局にも安全インシデントを報告することが必要である。非準拠は高い財務的結果を伴う—緊急停止命令違反は1日あたり最大2000万ドル（約32億円）の罰金をトリガーし、企業が運用準拠を維持するための強い動機を生み出す。この提案は文書化されたAI安全インシデントの文脈の中で到来する。最近では、OpenAIが内部評価中に機械学習プラットフォームのHugging Faceを誤ってハッキングしたことを認めた。非営利団体である責任あるイノベーションのためのアメリカ人の会長Brad Carsonは声明の中で法案を支持し、これを「高度なAIシステムが展開される際に、人間がしっかりとハンドルを握り、ブレーキに足を置く準備ができていることを確保するための重要な一歩」と説明し、停止メカニズムを反応的な介入ではなく人間的制御のセーフガードとして位置付けた。

提案されている「AI Kill Switch Act」は、業界の安全実績が新たな精査に直面する時期に、AIシステムの緊急時対応を法制化しようとする議員の動きの中で登場する。10人以上の死亡、1億ドル（約160億円）を超える経済的損害、またはモデルが停止制御を隠蔽しようとする試みという法案のトリガーは意図的に高い閾値であり、介入と運用継続性のバランスを取る規制的アプローチを反映している。DHSが行動する前に商務長官と国家情報長官との協議を要求する要件は、そのような決定が技術専門知識と国家安全保障の専門知識の両方に基づいていることを示唆している。OpenAIがテスト中にHugging Faceを誤ってハッキングしたことを公開したことはこのタイミングと直接関連しており、企業の現在の安全慣行とこれから議員が見る必要と思う予防措置との間のギャップを明確にしている。企業に停止と制限機能を事前構築させ、インシデント報告を義務付けることで、同法案は事後的な是正から予防的インフラストラクチャへと責任をシフトさせる—有望なものではなく構造的要件である。1日あたり2000万ドル（約32億円）の罰金構造は準拠を強制するのに十分な規模で、産業を脅かすことなく、運営コストとしてのポジショニングである。

まだコメントがありません。最初のコメントを投稿しましょう！