AIToday

NeurIPS、隠れたAI検出プロンプトで査読者を監視 賛否両論

Hacker News20時間前5分で読める
NeurIPS、隠れたAI検出プロンプトで査読者を監視 賛否両論

要点

神経情報処理システム国際会議(NeurIPS)の主催者が、査読者によるAIの不正使用を検出するため、査読論文に隠されたAI用プロンプトを埋め込む施策を導入しました。同様の手法を使用したICML 2026では数百人の査読者の違反を特定し、多くの研究者から支持されていますが、査読者からは「査読文化への信頼を損なう」との批判も出ています。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  • 何が起きたか

    神経情報処理システム国際会議(NeurIPS)の主催者が、査読者がAIチャットボットを使って論文をアップロードする行為を検出するため、査読論文に意図的に隠されたLLM用の指示を埋め込みました。指示は「This work addresses the central challenge」などの特徴的なフレーズを査読レポートに使わせるもので、一部の査読者がすでに検出されています。

  • なぜ重要か

    会議主催者は査読の質を守るため試みていますが、研究者らからは「悪意を前提とした仕組みは査読制度全体への信頼を損なう」との懸念が上がっています。一方、ICML 2026で同様の手法を使用したカーネギーメロン大学のNihar Shahは「数百人の査読者がAIの不正使用を特定され、研究者から圧倒的な支持を得た」と述べており、実効性を示す成果も出ています。

  • 注目点

    NeurIPS 2026は2026年12月にシドニーで開催予定です。ICML 2026では、LLM査読ポリシー違反で机上却下された論文は500件弱で、同年の総投稿数の約2%でした。

よくある質問

どうやってAI使用を検出するのですか?
会議主催者が査読論文に隠されたLLM用の指示を埋め込み、査読レポートに特徴的なフレーズが現れたかどうかで判定します。ICML 2026で同じ手法を試した結果、数百人の違反者が特定されました。
査読者はAIをまったく使えないのですか?
いいえ、NeurIPSの方針では、査読者は背景調査の目的でAIチャットボットを使用することは認められています。禁止されているのは、査読対象の論文をAIにアップロードする行為です。
論文が誤って却下されるリスクはありますか?
Leibniz University HanoverのSören Auerは、隠されたプロンプトが埋め込まれていることを知らない査読者が、プロンプトが著者によって挿入されたと勘違いして論文を却下する可能性があると指摘しています。NeurIPS委員会は、プロンプトに気づいた査読者に対して個別に連絡し、個別の論文にペナルティを科さないよう通知しているとのことです。

ディスカッション

この記事のディスカッションはまだありません

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝1分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →