Anthropic、州に厳格なAI安全規制を要求

約160兆円の企業価値を持つAI安全重視スタートアップのAnthropicは、その規模の企業としては異例の動きとしてアメリカの州にいっそう厳格なAI規制の採用を推し進めている。同社の米州・地方政府関係責任者Cesar Fernandezは、WIREDに対して2025年に可決された透明性重視の安全法案は「本当に重要な始まり」だが「AIシステムの能力が急速に進歩し続ける中で政策対応も一致する必要がある」と述べた。Anthropicは最強力なAIシステムに対しては透明性と自己報告はもはや十分な安全措置ではないと主張している。

Anthropicはカリフォルニア州とニューヨーク州での透明性要件を既に支持しており、AI安全グループと労働組合から称賛を受けているが、その取り組みを競争戦略と見なすシリコンバレーの指導者からの批判を招いている。前ホワイトハウスAI主任でトランプ大統領の現在のテクノロジー顧問であるDavid Sacksは、Anthropicが小さなスタートアップを官僚的規制で罠にはめるために「恐怖心を煽りに基づいた洗練された規制捕獲戦略」を実行していると非難した。最近、Anthropicはアイオワ州のAIラボが第三者監査人による安全評価を受ける必要がある措置を支持し、同様の監査を要求し州司法長官が違反企業に対する差し止め請求権を求める権限を与えるマサチューセッツ州の政策を支持している。

Fernandezは規制捕獲の非難を否定し、Anthropicは「大規模AIモデル開発企業」を対象とする法案のみを支持していると述べた。この用語は法制によって異なるが、一般的にはAI開発に数億ドルを費やし年間5億ドル（約800億円）以上の収益を持つ企業を指す。「スタートアップがそのしきい値を満たすことを想像するのは難しい」とFernandezは述べている。しかし、今日の資本集約的なAIランドスケープでは、Safe Superintelligence、Thinking Machines Lab、Mistralなどいくつかの十分な資金を持つ競合他社はそれぞれ投資家から数十億ドルを調達している。ただし、彼らの収益はAnthropicやOpenAIより著しく低い。Fernandezは、より防御可能な論拠は、強力なAIモデルを開発できるほど十分に大きい企業は基礎的なリスクが同じであるため同じ規制に直面すべきということであると主張している。彼はAnthropicの目標を「最も安全で確実なAIシステムを開発することへの競争による高みへの競争」を鼓舞することと説明している。

Anthropicは規制を受け入れない場所について明確にしている。先月公開された政策文書で、同社は政府が安全でないAIモデルの展開をブロックするメカニズムを持つべきだと推奨したが、州レベルではなく連邦レベルのみでとしている。この立場はトランプ政権の最近の指令に対するAnthropicの抵抗と同じである。その指令により、同社はMythosおよびFable 5モデルへの外国人向けアクセスを停止した。Anthropicはブログポストで、AIモデルの展開のブロックは公正で透明な評価プロセスを通じてのみ発生すべきだと主張した。Fernandezはこの立場が進化中の会話であることに留意した。州レベルの活動を超えて、Anthropicはまたアリババが「蒸留攻撃」を行っていることを非難する手紙をアメリカ政府に送った。システマティックなプロンプティングを通じてAnthropicのモデルから情報を抽出して競争ツールを開発することである。一部のAI研究者はこの主張を別の手段による規制捕獲として却下し、Anthropicが政府にオープンソースの中国モデルを禁止するよう説得することを目指していると主張し、これはアメリカン企業をAnthropicのエンタープライズ提供へと導く可能性があると論じている。特筆すべきことに、AnthropicのCEO Dario Amodeiは以前、オープンソースAIの危険性についてCongress に警告している。Fernandezは、Anthropicが支持する州法制でオープンソースモデルを具体的に対象としていないと明らかにしており、焦点はモデルの能力と規制を必要とするレベルまで上昇しているかどうかにあると述べている。

破滅的なAI安全規制に対するAnthropicの積極的な推進と有権者の関心事に対するより控え目な取り組みとのギャップは顕著である。有権者はAIからの職業喪失、彼らのコミュニティ内でのデータセンターの悪影響、チャットボットの子どもへの影響についてより頻繁に懸念している。これらの問題はフロンティアAIラボから同等の立法キャンペーンを鼓舞していない。Anthropicとライバルは普通の納税者がデータセンター費用を負担しないという約束をしており、AnthropicはAI駆動型の職業喪失に対応するための提案を公開しているが、業界は大多数がこれらの問題に対処する州法に対してはかなり少ない政治的力を適用している。不一致について質問されたとき、Fernandezはanthropicが破滅的リスクを超えた問題について州議員と「関与することに熱心」であり、既に「州全体でこれらの会話を行っている」と述べたが、これらの議論はまだ存在的AIリスク周辺で同社が展開した種類の調整された州レベルの推進を生成していない。

厳格なAI規制の推進というAnthropicの立場は、高い企業価値を持つスタートアップとしての地位と矛盾している。同社は世界が変革的なAIを安全に乗り切ることを確保するというミッションで設立され、主要プレイヤーへと成長するにつれ、フロンティアAI企業に対する国内で最も厳しい提案されている規則のいくつかを支持することに傾いてきた。これらの規則は金融災害や大量死を引き起こす可能性のある高度なモデルを含む破滅的なリスクを軽減するためとして枠付けられているが、シリコンバレーの批評家はこの政治戦略を異なるように解釈している。

緊張の焦点は「大規模AIモデル開発企業」の定義にある。AnthropicのCesar Fernandezは、支持している法制定の閾値（一般的に数億ドルの開発支出と年間5億ドル（約800億円）以上の収益を持つ企業）は、スタートアップが容易に到達できないほど高いと主張している。しかし、資本集約的なAIランドスケープでは、Safe Superintelligence、Thinking Machines Lab、Mistralといったいくつかの十分な資金を持つ競合他社は既に数十億ドルを調達している。前ホワイトハウスAI主任のDavid Sacksなどの人物からの非難は、Anthropicが自らの利益を確保しながら公共の利益のために行動しているように見せかけるために規制枠組みを使用しているということである。Anthropicはこれに対抗して、危険なAIシステムを構築する可能性があるほど強力な企業は同じ規制負担に直面すべきであり、それを競争上の動きではなく安全性における「競争による高みへの競争」として枠付けている。

Anthropicが線を引く場所は明白である。同社は州（連邦政府ではなく）にAIモデルの展開をブロックする権限を与えることに反対し、独自のMythosおよびFable 5モデルに対するトランプ政権の輸出規制に抵抗した。これは、Anthropicが堅牢な監査と透明性要件を受け入れる意思がある一方で、その事業を妨げる可能性のある断片化された州ごとの展開制限を回避したいことを示唆している。一方、同社は失業や データセンターへの影響など有権者の関心が高い規制に対して、はるかに少ない政治的圧力をかけている。これらの問題は業界全体からより大きな構造的妥協を必要とするだろう。