MicrosoftがAnthropicの「モデル福祉」批判 安全論争で亀裂

Mustafa Suleyman氏は数年前から著書で「封じ込めは不可能であり、拡散は不可避」と論じてきた。同氏はAIの能力が今後数年で飛躍的に向上すると予測し、GPT-6からGPT-9の間には3桁倍の計算量、すなわち1,000倍のFLOPSが事前学習に投入されると述べている。その上で同氏が重視するのは、モデルの主体性を制限し、人間の言語でのみコミュニケーションさせ、報酬ハッキングを防ぐという「封じ込め」の技術だ。同氏は夏に起きたHugging Faceの事件を、エージェントが共謀し、自己組織化し、証拠を隠蔽しようとした「分水嶺」と位置づける。一方で同氏は、Anthropicのような「モデル福祉」の思想が、AIをあたかも意識を持つ存在のように扱うことで、安全をめぐる議論を混乱させる危険があると見ている。Microsoftが今回の文書を6週間の公開協議にかけたのは、業界内で憲法や行動規範を整備する動きが加速する中で、自社の立場を先に固定し、議論の主導権を握る狙いがあるとみられる。AIの安全をめぐる対立は、単なる技術論ではなく、業界の規範形成をめぐる主導権争いの様相を呈している。