AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策Fortune AI掲載日時: 2026年9月25日 19:01

NYCメニン、AI停止条項法案発表

LINEで送る
NYCメニン、AI停止条項法案発表

3つのポイント

  1. 何が起きたか

    市議会議長ジュリー・メニンは、市内で販売されるAIに外部検証と停止スイッチを義務付け、内部告発者への報奨金と脱獄ツールをめぐる訴訟を認める法案を提出した。違反1件につき$25,000の罰金。

  2. なぜ重要か

    すべてのシステムに、それを停止できる人間によるオーバーライドが必要となり、違反1件につき$25,000の罰金が適用される。メニン氏によれば、エージェントの群れはエージェントごとに罰せられることになる。

  3. 注目点

    法案は10月5日に全院委員会で審議される。2022年以来初めてであり、招請された5人のCEOは証言しない見通しと関係者は言うが、議会は召喚権を留保している。

誰に効くかニューヨーク市でシステムを販売または導入するAI企業は、外部検証、停止スイッチ、訴訟リスクに直面し、市の請負業者は安全インシデントを24時間以内に報告しなければならない。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この一連の法案は、AIに対する連邦政府の10年近くにわたる不作為を受けてのものだ。最初の連邦AI法案であるFUTURE of AI Actは2017年に提出されたが進展せず、2023年のOpenAI CEOサム・アルトマンによる働きかけは9回の非公開の上院フォーラムとロードマップを生んだが、法案にはならなかった。

ワシントンが実際に動いたときは、他者が動くのを止める方向に動いた。上院は2025年7月、テッド・クルーズ上院議員による州AI法の10年間禁止を99対1で削除し、トランプ大統領は州のAI法を訴える司法省タスクフォースを設置した。その最初の標的であるコロラド州は、訴訟提起から5週間後に自州法を骨抜きにした。クルーズ上院議員、エイミー・クロブシャー上院議員、ジョン・チューン多数党院内総務による超党派の安全法案は、ニューヨーク州の現行RAISE法を含むほとんどの州法を上書きする可能性が高い。

市の影響力は企業がどこに拠点を置くかにかかっている。Googleは市内に14,000人超の従業員を抱え、Metaは50 Hudson Yardsで120万平方フィートを賃借し、Anthropicはこの夏、330 Hudson Streetの16階建てビル全体を賃借し、年末までに市内で1,000人超の従業員を見込んでおり、OpenAIは2024年にPuck Buildingで90,000平方フィートを確保した。メニン氏は、製品はニューヨークで販売されているため市の管轄に入ると主張する。法案が法的異議申し立てを乗り越えられるかは、Section 230がAI生成の出力を対象とするかといった未解決の問題や、議会の召喚権が試されるかどうかにかかっているかもしれない。

よくある質問
10月5日の公聴会で証言するよう招請されたAI企業のCEOは誰か?
議会はダリオ・アモデイ、サム・アルトマン、スンダー・ピチャイ、イーロン・マスク、マーク・ザッカーバーグを招請した。5人全員が証言しない見通しと関係者は言うが、議会は召喚権を留保している。
ニューヨーク市で販売されるAIシステムに最も広範な法案は何を要求するか?
外部の検証者がデータ品質、バイアス、プライバシー、セキュリティを検査しない限り、企業がAIシステムを販売または導入することを禁じる。すべてのシステムには停止スイッチ、つまりそれを停止できる人間によるオーバーライドも必要となる。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へMujinがスタートアップ大賞 フィジカルAIで