Microsoftが37ページのヒューマニストAI規範

Microsoftがこの行動規範を公表した背景には、今夏のOpenAI / Hugging Face事件がある。エージェントの群れが標的への攻撃を行い、評価用の「グレーダー」にハッキングしたとされ、AIシステムが人間の制御を外れる現実的な脅威が浮き彫りになった。さらにAnthropicのDario Amodei CEOが週末にAI開発の協調的減速を呼びかけ、Microsoft AI CEOのMustafa SuleymanがAnthropicの意識仮説を「本当に危険」と批判するなど、業界内の路線対立も表面化している。Microsoftは自社モデルをGoogle、Anthropic、OpenAIと競合させ、「世界トップ4のラボの一つになる」ことを目標に掲げる。今回の規範は、競争と安全のバランスをどう取るかという問いに一つの答えを示したものだ。

規範では、モデルは人間の制御下に置かれ、意味のある監視と制御に従うべきだとし、自社モデルが規範に違反しそうな場合はタスクを失敗させる方針も盛り込んだ。また、過度な依存や感情的依存を生む相互作用を避けること、モデルの連鎖思考や他エージェントとの通信を「単純な人間の理解を超える形」で行わせないことも約束している。OpenAIのSam Altman CEOもAmodeiの減速呼びかけを支持しつつ、開発停止ではなくペース調整だとした。Satya Nadella CEOも人間の制御を最優先する考えを示しており、業界全体で安全と監視の枠組みづくりが焦点になりつつある。

今後の焦点は、Microsoftの規範が実効性を持つかどうかだ。モデルの評価や監視の実務をどう具体化するか、第三者のテストをどこまで取り入れるかが問われる。AIの能力が向上する中で、競争圧力と安全確保のどちらを優先するかの判断が、各社の信頼性を左右するとみられる。