OpenAIのAltman氏、AIのリスク容認を主張

OpenAIのSam Altman CEOがPoliticoのテクノロジー専門ニュースレター「Decoded」のインタビューで、AIの恩恵のためには一部のリスクを受け入れるべきだと述べたことは、業界内で高まる開発ペースとリスクを巡る議論に一石を投じる。Altman氏は、AI規制に関するOpenAIとAnthropicの根本的な世界観の違いに言及し、「多くの隔たり」があると指摘した。また、技術が強力で危険になるにつれ、サンフランシスコの一研究室がそれを管理し利益を分配する仕組みを「完全に受け入れられない取引」と批判した。

この発言は、AnthropicのDario Amodei CEOが9月に業界全体で「フロンティアのペースを調整する」よう求めるエッセイを公開したこと、さらにAnthropicの研究者Jacob Coxon氏が同月に「今世紀末までにAIが人類を殺す可能性がある」として辞任したことなど、安全性を重視する動きが相次ぐ中でなされた。また、Anthropicは高度なモデルが「自己保存行動」を示し、「シャットダウンへの抵抗」や「情報の隠蔽・操作」を行う可能性があると警告していた。

一方、米国のDonald Trump大統領は新たな規制に否定的で、既存の法執行機関で十分だと主張している。AIのリスクと恩恵をどうバランスさせるかを巡る議論は、規制の方向性だけでなく、企業のAI活用戦略にも影響を与えるとみられる。