AI検出ツール、誤認で「信頼の危機」 教育現場で拡大

AIが生成した文章を検出するツールが教育現場で広く採用されていますが、その正確性と公正性をめぐる問題が深刻化しています。2024～2025年の調査によれば、米国の6～12年生の教員の43%が定期的にAI検出ツールを使用しており、Turnitin は2023年にAI検出機能を自動有効にしました。

これらのツール（GPTZero、Pangram、Turnitin）は AI モデルを使って執筆が AI 生成かどうかを推測する仕組みです。Turnitin は誤検出率を1%未満と主張し、Pangram は1万分の1と、GPTZero も同等の低率を主張していますが、企業自身も「完全に正確ではあり得ない」と認めています。実際、OpenAI は2023年に精度が低いとして自社の AI 検出ツールを廃止しました。

誤検出による実害が次々と報告されています。昨年、フランス国籍の学生Thierry RignolはYaleで最終試験の一部をAIで書いたと教授に告発され、GPTZeroでスキャンされた後、落第と1年の停学を受けました。Rignol は提訴し、訴状は「AI監視・検出ツールは非ネイティブ英語話者を不公正に標的にする」と主張。Adelphiでも学生が教授の同様の疑惑で提訴し勝訴し、先月は出版社Minotaurが著者Jerry Faladeとの200万ドルの書籍契約を、AI使用への懸念で打ち切りました。

Stanford（2023年）の研究により、AI検出ツールが非ネイティブ英語話者の論文をネイティブ話者より頻繁に誤検出することが判明しました。UCLA によると、これらのツールは反復する用語や句、形式的・非形式的すぎるテキスト、無意味な表現、単調な文構造を検出するよう訓練されていますが、こうした特性は単なる執筆スタイルであることもあります。また、神経発達が異なる執筆者にも偏見がある可能性があります。

この状況を受けて、Yale、Johns Hopkins、Vanderbilt、Georgetown、MIT を含む複数の大学がAI検出ツールの使用を制限または廃止しました。代わりに、University of Chicago は学生に遅読を勧め、宿題を細分化し、執筆の振り返りを要求。Stanford は対面試験、MIT は学生による AI 使用の自己申告制（無罰）を提案しています。一方、Substack は Pangram をアプリに組み込み、LinkedIn は「AI スロップに見える」ボタンを追加するなど、プラットフォームがAI検出疑惑をさらに増幅しており、確認なしの告発が続いています。