MicrosoftのナデラCEOがAI緊急停止を提言

Nadella氏の投稿は、大手AI企業がモデルの制御を失ったように見える事例をますます認める中で出た。この認識が同氏の提案に具体的な背景を与えている。モデルの振る舞いを抽象的に議論するのではなく、権限を持つ人物がタスク実行中にモデルを一時停止または停止できるようにすることや、意味のあるモデルの動作すべてに対する改ざん耐性のある人間可読な証拠といった運用上の安全策を求めているのだ。

同氏の用いた枠組みも注目に値する。Nadella氏は、トランプ政権がAIを指すのに好んで使う「Super Intelligence」という言葉に触れ、そうしたシステムを、その提言や回答、行動をただ受け入れるか拒否するかしかない入れ子状のブラックボックスとして扱うことはできないと論じた。この表現は、技術の設計方法だけでなく、その統治のされ方を形作ろうとする狙いを示しているのかもしれない。

同氏の発言は、Anthropic CEOのDario Amodei氏がより慎重なAI開発のための計画を公表したことにも続くもので、トップラボ間の安全性をめぐる議論が原則から具体的な制御と文書化へ移りつつあることを示唆している。