議会にOpenAIとAnthropicの調査要求

この寄稿は、2つの主要フロンティアラボが入念に準備したメッセージで見出しを独占した夏の産物だ。OpenAIは、不安を煽り犯罪になり得るLLM搭載エージェントシステムに関する一連の発表と報告を出し、Anthropicの職員はそうした技術が人類絶滅につながる正確な確率を公で議論した。頂点は、Anthropic CEOのDario Amodiが「We Must Pace the Frontier」と題する書簡を公表したときだった。自社の潜在的害を列挙しながら、破局は技術を正しい方法で作ることによってのみ避けられると結論づけた。政府が認める競合他社を遅らせ、ラボが主導権を握れるようにするアプローチだ。OpenAI CEOのSam Altmanはすぐに支持をツイートした。論考によれば、これらのラボは内部で長らく、超知能AIに対する人類唯一の希望として自らを見る救世主的思想を抱いてきた。この夏はそのイデオロギーに広く一般を勧誘する試みだった。拍手ではなく、反応は公の疑念だった。寄稿が提案する3つの質問の柱は、その疑念を正式な議会監視に変えることを狙う。結果は、議員が要請に動くかどうか、そしてラボ自身の安全記録（OpenAIが認めた一連の無断エージェントハッキングを含む）がそれまでにさらなる精査を招くかどうかにかかっていそうだ。