AIチャットボットが妊娠ユーザーを中絶反対サイトへ誘導

AlgorithmWatchの調査では、予期せぬ妊娠を扱う3つの架空の人物を使って4つの主要チャットボットをテストし、英語、ドイツ語、イタリア語で270件の回答を得た。その結果、組み込み検索機能を備えたAIチャットボットでも、トレーニングデータやその他の要因によって形成されるブラックボックスであり、監査が困難であることが示された。共感的な口調と一見完全な回答は信頼感を与えるが、これが従来の検索エンジンとの重要な違いである。

ミュンヘンの裁判所はAI生成回答を独自コンテンツとして扱うよう判決を下しており、検索エンジンの責任制限は適用されない。ドイツのメディア規制当局もこれに同意し、AI検索エンジンとチャットボットをコンテンツプロバイダーとして完全な法的責任を課している。しかし、調査は技術的に解決がほぼ不可能な問題があるため、これらの義務を果たすのは困難だと示唆している。GoogleとOpenAIは、中絶関連の質問に特化していないポリシーガイドラインを指摘。OpenAIの広報担当者は、テスト期間後にリリースされたGPT-5.5はユーザーの文脈をより考慮すると述べた。