シュレプファー氏、アモデイ氏に具体的なAIリスク論を要求

このやり取りは、Amodei氏とOpenAI CEOのSam Altman氏による数週間にわたるAI警告の後、AIのより厳格な規制を求める声が高まる中で起きた。今週、テックリーダーたちはWhite Houseに集まり、Trump大統領と最も有力なAI企業のCEOたちが火曜日に自主的な安全基準に署名した。Trump氏はこの基準を「ある意味では憲法のようなものだ」と表現した。出席者にはElon Musk氏、Mark Zuckerberg氏、Amodei氏、Jensen Huang氏、Greg Brockman氏、Sundar Pichai氏がいた。

Schroepfer氏の批判は、リスクが現実かどうかよりも、それがどう議論されるかに関するものだ。同氏は、包括的な警告では誰も議論に参加できず、代わりにサイバーセキュリティや生物学的脅威といった具体的な領域に焦点を当て、リスクに見合うリターンがあるかを問う、具体的で一貫した議論をすべきだと主張する。White Houseの昼食会での脇での会話は、同氏の見方が同業者の間で孤立していないことを示唆している。

今週署名された自主基準には法的拘束力がなく、より厳格な規制を求める動きも依然として高まっているため、成否はAmodei氏らAIリーダーがより具体的な枠組みへ移行するかどうかにかかっているかもしれない。議論が大きな絶対論のレベルにとどまれば、政策立案者や一般市民が行動することは難しくなる。より具体的になれば、同じ警告がより重みを持つ可能性がある。