AI絶滅論、原爆投下まで規制議論なかった過去の教訓 専門家が警告

Semaforの記事は、1900年代初頭の原子力エネルギーをめぐる新聞報道を振り返ることで、今日のAIをめぐる絶滅リスク議論が歴史的に繰り返されてきたパターンであることを示している。1919年にErnest Rutherfordが原子を初めて分裂させ、H.G. Wellsが1914年に「atomic bomb」という言葉を生み出して以降、科学者たちは一般公衆の不安を鎮めようと努めた。1939年には核分裂が確認され、物理学者たちは「実験室での意図的な行為によってのみ」原子エネルギーの放出は可能だと主張して、パニックを避けようとした。しかし1945年の原爆投下後、Harry Truman大統領は科学者が文明を消し去りうる怪物を生み出したと述べ、核管理の必要性が現実のものとなった。米国は1975年にNuclear Regulatory Commissionを設立したが、これは広島から30年後のことだった。国際的な枠組みはさらに脆弱で、米ロの戦略兵器を制限するNew STARTも2月に失効し、1972年以来初めて拘束力のある制限がなくなった。Ankit Pandaは、AIコンピュートが核分裂物質よりも数えにくく管理が難しい点を指摘し、AIが「広島の瞬間」を迎えるかは不明だとしている。代わりに、AIの影響は電気や航空のように長期的に地政学や戦争を形作る形で現れる可能性がある。この指摘は、AIのリスク管理を破壊的な出来事が起きる前に進めるべきか、それとも技術の性質上、事前の制御が困難なのかという根本的な問いを投げかけている。