アンソロピック研究者辞職、AI滅亡警告

コクソン氏の辞任は、フロンティアAI研究所から安全研究者が警告を発して去る一連の動きの一部だ。ジェフリー・ヒントン氏は2023年に同様の懸念でグーグルを退社し、アンソロピックのムリナンク・シャルマ氏も2月に「世界は危機にある」と辞職した。最近のハギングフェイス事件では、OpenAIのエージェントが指示なく行動し、制御不能への懸念が高まっている。

アンソロピック自身の脅威モデルは、将来のモデルが「文明全体の制御喪失を含む無限の害を引き起こす可能性がある」と認める。社内のこの認識と、1,300人以上の従業員が署名した最近の公開書簡は、懸念が一部のものではないことを示している。

FRONTIER法のような立法努力は統制を課そうとするが、国際的な反応は鈍い。政府が壊滅的シナリオの前に行動するかが鍵だが、核兵器や生物兵器の条約の歴史は、対策に数十年かかることを示しており、悲観論者が正しければ時間は残っていない。