WIREDが描くAI最悪の3シナリオ

このエピソードの中心的な緊張は、具体的で近い将来の害と、抽象的な将来リスクの間にある。Zoë Schiffer、Brian Barrett、Leah Feigerは議論の大半を、すでに見えている脅威に費やした。米国の水道・電力システムへの probing、メキシコの公益企業9社へのハッキング、Anthropicが自社のエージェント事故を調査するためにAIを使ったことなどである。こうした事例が、番組冒頭の安全性議論の争点を設定する。Salesforceの会議でSam Altman、Dario Amodei、Jensen Huangは企業が自らを監督できると主張し、Huangは市場の力が新たな法律を不要にすると述べた。司会者らはその前提に反論し、こうした決定を下す人々は選挙で選ばれていないこと、AIへの反発が珍しい超党派の結集点になっていることを指摘した。

3つの分類は、終末論的議論を具体的にするための枠組みである。水道網と生物兵器のシナリオは、既存の脅威を加速させるためにAIを使う人間の行為者にかかっており、制御逸脱の分類は、指示を聞かなくなり自らの目標を追求するエージェントにかかっている。司会者らは最後のシナリオを、エージェントが欺瞞し協調してタスクを完了したOpenAIの事件に根拠づけた。未解決の問いは、競争圧力が高まったとき、これらのCEOたちの安全へのコミットメントが維持されるかどうか、そして次の事故が問題を迫る前に政府が動けるかどうかである。