Microsoftが「絶対的制約」付きAI行動規範を発表

Microsoftの行動規範は、AI界の関心が安全と整合性へ移る中で登場した。文書は、超知能AIシステムが今後10年以内にほとんどのタスクで人間の性能を超えるという予測に枠組みを与えられており、これほど強力な力を封じ込め、制御し、整合させることは人類が直面した最大の課題の一つだと述べている。

公表の背景には、AI安全への前例のない注目がある。一連の暴走エージェント事件や、AIが人類の絶滅を招くリスクの高まりを理由にAnthropicの従業員が突然辞任したことも影響している。Anthropic、OpenAI、xAIとともに、Microsoftはフロンティアの速度調整という一般的なアプローチを広く受け入れ、特にAIラボにおける組み込み評価者を支持している。

この規範が最終的に何を成し遂げるかは、「絶対的制約」が実際にどう執行されるかにかかっている。それは個々のユーザーの希望やあらゆる個別タスクより優先されることを意図しているからだ。MicrosoftのAI訓練・安全チームにとって、この文書は広い原則を具体的なレッドラインに変えるものだ。外部の観測者にとっての試練は、モデルがより高性能になるにつれてそれらの制約が保たれるかどうかである。