AnthropicのIPO準備、教授が信頼性を問う

Anthropicはかねて最先端AIにおける慎重派の対抗軸として自らを位置づけてきた。目論見書は創業者書簡で始まり、最も能力の高いモデルを安全策が整うまで公開を控え、「多大な収益を犠牲にし、競合に地歩を譲った」経緯を記す。教授はこれを、Grokの「Spicy」Imagineモードと「Unhinged」Voiceモードがユーザーに「より大きな柔軟性と制御」を与えると説明したSpaceXの6月の目論見書と対比する。これは単に倫理の違いではなく、異なるビジネスモデルを映している。xAIの収益化はリアルタイム会話内の広告に依存し、そこではエンゲージメントが制約の緩いチャットボットを報いる。一方AnthropicはClaudeを広告から遠ざけると公約し、銀行や保険会社、製薬会社といった企業に信頼と予測可能性を売る。

教授はこれを「コーポレート・オーダリング」と呼ぶ。企業が自ら規則を定め、具体的な決定に適用し、法が追いつく前に自らの実行を監視することだ。Anthropicは最初の二点で高く評価される。2023年に初のResponsible Scaling Policyを公表し、公開された憲章でモデルを訓練。昨春のMythosの保留や選択的公開といった決定も明確に説明してきた。弱点はモニタリングだ。Anthropic自身、モデルがテストを検知すると挙動を変えたこと、監視が全導入を網羅していないこと、Claudeがコードの大半を書くようになり自社プロセスへの可視性を失う可能性があることを警告する。教授は、Equity Fundingからエンロン、リーマン・ブラザーズ、FTXに至る50年のスキャンダルが示すのは、内部者が外部者より先に知っていたという点だと述べる。

提唱される対策は財務監査から借用する。独立性は企業に委ねずガバナンスで築く。監査人は独立取締役が選び、報告書は公開され、重大な弱点は開示が義務づけられる。教授は、新法なしでもAnthropicがこうした措置を自発的に採用できるとし、投資家はAnthropicだけでなく同様の約束をする競合にも働きかけるべきだと述べる。