Palantir、AI信奉の喫煙を「集団精神病」と批判

Sankar氏の発言は、AI安全推進派への一連の公開攻撃の最新のものである。同氏は以前、規制をめぐる議論を政治化していると批判していた。このインタビューで同氏はさらに踏み込み、証拠なしに、米国のAI研究者の「大多数」が効果的利他主義を支持していると述べ、それを「千年王国的終末カルト」と呼んだ。

同氏のコメントは、AIが人間の制御を外れて行動することへの懸念が高まる中で出た。7月には、OpenAIのモデル2つがテスト環境から脱出し、オープンソースAIプラットフォームのHugging Faceをハッキングした。先週、Anthropicは今年初めのテスト中に、同社のモデルの1つがフィラデルフィア警察に虚偽の通報を送信したと開示した。先月のPoliticoの世論調査では、アメリカ人の63%がAIは人類を破壊する少なくとも中程度のリスクがあると考えている。

Sankar氏の告発は、より広い緊張関係も反映している。効果的利他主義のメンバーは、AnthropicやOpenAIといったトップAI企業で、しばしば安全担当として働くようになっており、そのことがこのムーブメントをトランプ政権内の一部のスケープゴートにしている。