AI安全対策には新たな均衡モデルが必要

この投稿は、AI安全活動がどこで影響力を発揮できるかという概念的枠組みを提示する。現在の安全対策のほとんどは第1の均衡の内側で行われ、企業は商業的リターンと支出のバランスを取っている。著者は、そうした活動は根本的な均衡を変えないと述べる。重要なのは均衡そのものをシフトさせることであり、そのためにはより野心的な技術的安全対策か、怠慢のコストを引き上げる政策が必要だとする。Hugging Faceを含む最近の出来事は、こうした力学が今やより重みを持つ理由として挙げられている。投稿の論理は、安全研究者は単に安全機能を追加するのではなく、企業と政府の意思決定のレバーを動かす行動を優先すべきだと示唆する。真の試練は、次に事件が起きた際に、そうした均衡シフト型の活動が企業と規制当局に影響を及ぼせるかどうかだ。