
何が起きたか
カーネギーメロン大学、MIT、コーネル大学の研究者らは、GPT-4oとGoogle Geminiを使い、短い会話が2つの暗殺未遂事件に関する陰謀論信念を弱められるかを2つの実験で検証した。いずれも、対話は静的なファクトシートや対照のチャットと比べ、参加者自身の陰謀論への信念を低下させた。
なぜ重要か
事実が乏しい状況でも、チャットボットとの対話が信念を測定可能な形で変えられることを示す。その効果は事前の準備なしに後の出来事にも波及し、従来のプリバンキング(先回りした予防)とは異なる。著者らは、同じ手法が陰謀論を信じ込ませる悪用も可能だと指摘する。国内の情報提供者が、対話型AIとの短いやり取りで陰謀論的信念を弱められる可能性がある。
注目点
対話効果は一般化できるかが焦点であり、今回の結果は特定の2事件とモデル構成に依存する。実験参加者は陰謀論を信じる層に絞られており、全米の代表性はないとみられる。
こういう要約が、毎朝あなたのメールに届きます。
この研究の重要な革新は、モデルが内部知識を持たない新しい出来事に対話を試みた点だ。両事件はモデルの訓練データの期限後に発生したため、研究者らは精選した事実をプロンプトに組み込んだ。モデルは利用可能な証拠に応じて戦術を適応させ、知識が乏しい場合には認識論的謙虚さとソクラテス的質問を、詳細が得られた場合にはより事実に基づく議論を用いた。
注目すべき発見は波及効果だ。ある事件の誤情報を論破することで、後の無関係な銃撃事件に関する陰謀論への信念も低下した。ただし、主な分析ではその事件への直接効果は見られなかった。著者らはこれを事前警告なしのプリバンキングの一種と解釈するが、同時に同じ手法を逆用して陰謀論を信じ込ませることも可能だと警告している(彼らの以前の研究が示す通り)。
この研究は、GPT-4との会話が既存の陰謀論への信念を約20ポイント低下させた先行研究に基づく。新たな点は、情報が乏しい速報的な事件に応用したことであり、不確実性下でのモデルの推論能力が重要になる。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた
