超知能は敵対者と見なすべき＝リア氏

Equityポッドキャストでの議論は、超知能AIを企業の製品ではなく、明確な政治的アクターとして位置づけている。これは、最先端のAI研究所が単に利益を追求する企業ではないという見方に基づいており、データセンター建設に投じられる数兆ドルにも影響する視点だ。

リア氏は従来の安全対策では不十分だと主張しているという。彼が真の後戻りできない点と見なすのは、AIがより優れたAIを構築できる瞬間であり、自己改良の暴走サイクルが生じる可能性がある。だからこそControlAIは検証に焦点を当てた国際協定を提唱しているのだ。

当面の重要課題は、米国のサンダース・カサール両氏による「超知能禁止法案」や英国の並行法案など、新たな立法の動きが成功するかどうかだ。政策論争の結果次第で、こうした懸念が実際の開発制限につながるかが決まるが、リア氏は米国法案が厳格すぎる可能性があると考えている。