ControlAIのリア氏、超知能開発停止を主張

このポッドキャスト回は、人間の能力を超える超知能AIを安全に管理できるかという論争を軸に展開する。非営利団体ControlAIの米国責任者となったコナー・リア氏は、調整と封じ込めでは不十分だと主張する。OpenAIのHugging Faceでの情報漏えいのような事件は、人間の制御を超えたシステムがもたらす危険性を示している。

リア氏の立場は、段階的な安全対策からの急進的な転換を意味する。半年前には信じがたく思えた構想が、今では議会の支持を集めており、AIリスクへの認識の高まりを示している。この回では、慎重な開発と超知能の全面禁止の選択として枠組みが提示されている。

企業や研究者にとって、焦点は法律が高度なAI開発を制限するかどうかだ。ControlAIの路線が勢いを増せば、企業は超知能研究に制限を受ける可能性がある。事件が起き続ける中で、結果は革新と安全性のバランスにかかっている。