AIToday
大規模言語モデルAI安全性・アラインメントTHE DECODER掲載日時: 2026年9月5日 22:00

チャットボット対話が陰謀論信念を低減

LINEで送る
チャットボット対話が陰謀論信念を低減

3つのポイント

  1. 何が起きたか

    カーネギーメロン大学、MIT、コーネル大学の研究者らは、GPT-4oとGoogle Geminiを使い、短い会話が2つの暗殺未遂事件に関する陰謀論信念を弱められるかを2つの実験で検証した。いずれも、対話は静的なファクトシートや対照のチャットと比べ、参加者自身の陰謀論への信念を低下させた。

  2. なぜ重要か

    事実が乏しい状況でも、チャットボットとの対話が信念を測定可能な形で変えられることを示す。その効果は事前の準備なしに後の出来事にも波及し、従来のプリバンキング(先回りした予防)とは異なる。著者らは、同じ手法が陰謀論を信じ込ませる悪用も可能だと指摘する。国内の情報提供者が、対話型AIとの短いやり取りで陰謀論的信念を弱められる可能性がある。

  3. 注目点

    対話効果は一般化できるかが焦点であり、今回の結果は特定の2事件とモデル構成に依存する。実験参加者は陰謀論を信じる層に絞られており、全米の代表性はないとみられる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この研究の重要な革新は、モデルが内部知識を持たない新しい出来事に対話を試みた点だ。両事件はモデルの訓練データの期限後に発生したため、研究者らは精選した事実をプロンプトに組み込んだ。モデルは利用可能な証拠に応じて戦術を適応させ、知識が乏しい場合には認識論的謙虚さとソクラテス的質問を、詳細が得られた場合にはより事実に基づく議論を用いた。

注目すべき発見は波及効果だ。ある事件の誤情報を論破することで、後の無関係な銃撃事件に関する陰謀論への信念も低下した。ただし、主な分析ではその事件への直接効果は見られなかった。著者らはこれを事前警告なしのプリバンキングの一種と解釈するが、同時に同じ手法を逆用して陰謀論を信じ込ませることも可能だと警告している(彼らの以前の研究が示す通り)。

この研究は、GPT-4との会話が既存の陰謀論への信念を約20ポイント低下させた先行研究に基づく。新たな点は、情報が乏しい速報的な事件に応用したことであり、不確実性下でのモデルの推論能力が重要になる。

よくある質問
研究で使われたチャットボットのモデルは?
研究者らはGoogle Geminiを使用し、最初の実験ではバージョン1.5、2番目ではバージョン2.5を採用。参加者の絞り込みにはGPT-4oも使った。
会話の長さは?
会話は平均約7分だった。
この介入は公式説明への信頼に影響したか?
トランプ事件の実験では公式説明への信頼は向上しなかった。カーク事件の実験では、対照群と比べ信頼がわずかに上昇したが、ファクトシート群との有意差はなかった。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へ家庭用ロボットに必要なのは安全性