Anthropic、州に厳格なAI安全規制を要求

厳格なAI規制の推進というAnthropicの立場は、高い企業価値を持つスタートアップとしての地位と矛盾している。同社は世界が変革的なAIを安全に乗り切ることを確保するというミッションで設立され、主要プレイヤーへと成長するにつれ、フロンティアAI企業に対する国内で最も厳しい提案されている規則のいくつかを支持することに傾いてきた。これらの規則は金融災害や大量死を引き起こす可能性のある高度なモデルを含む破滅的なリスクを軽減するためとして枠付けられているが、シリコンバレーの批評家はこの政治戦略を異なるように解釈している。

緊張の焦点は「大規模AIモデル開発企業」の定義にある。AnthropicのCesar Fernandezは、支持している法制定の閾値（一般的に数億ドルの開発支出と年間5億ドル（約800億円）以上の収益を持つ企業）は、スタートアップが容易に到達できないほど高いと主張している。しかし、資本集約的なAIランドスケープでは、Safe Superintelligence、Thinking Machines Lab、Mistralといったいくつかの十分な資金を持つ競合他社は既に数十億ドルを調達している。前ホワイトハウスAI主任のDavid Sacksなどの人物からの非難は、Anthropicが自らの利益を確保しながら公共の利益のために行動しているように見せかけるために規制枠組みを使用しているということである。Anthropicはこれに対抗して、危険なAIシステムを構築する可能性があるほど強力な企業は同じ規制負担に直面すべきであり、それを競争上の動きではなく安全性における「競争による高みへの競争」として枠付けている。

Anthropicが線を引く場所は明白である。同社は州（連邦政府ではなく）にAIモデルの展開をブロックする権限を与えることに反対し、独自のMythosおよびFable 5モデルに対するトランプ政権の輸出規制に抵抗した。これは、Anthropicが堅牢な監査と透明性要件を受け入れる意思がある一方で、その事業を妨げる可能性のある断片化された州ごとの展開制限を回避したいことを示唆している。一方、同社は失業や データセンターへの影響など有権者の関心が高い規制に対して、はるかに少ない政治的圧力をかけている。これらの問題は業界全体からより大きな構造的妥協を必要とするだろう。