AIToday
Hacker News掲載日時: 2026年7月4日 22:01

NeurIPS、隠れたAI検出プロンプトで査読者を監視 賛否両論

LINEで送る
NeurIPS、隠れたAI検出プロンプトで査読者を監視 賛否両論

3つのポイント

  1. 何が起きたか

    神経情報処理システム国際会議(NeurIPS)の主催者が、査読者がAIチャットボットを使って論文をアップロードする行為を検出するため、査読論文に意図的に隠されたLLM用の指示を埋め込みました。指示は「This work addresses the central challenge」などの特徴的なフレーズを査読レポートに使わせるもので、一部の査読者がすでに検出されています。

  2. なぜ重要か

    会議主催者は査読の質を守るため試みていますが、研究者らからは「悪意を前提とした仕組みは査読制度全体への信頼を損なう」との懸念が上がっています。一方、ICML 2026で同様の手法を使用したカーネギーメロン大学のNihar Shahは「数百人の査読者がAIの不正使用を特定され、研究者から圧倒的な支持を得た」と述べており、実効性を示す成果も出ています。

  3. 注目点

    NeurIPS 2026は2026年12月にシドニーで開催予定です。ICML 2026では、LLM査読ポリシー違反で机上却下された論文は500件弱で、同年の総投稿数の約2%でした。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
どうやってAI使用を検出するのですか?
会議主催者が査読論文に隠されたLLM用の指示を埋め込み、査読レポートに特徴的なフレーズが現れたかどうかで判定します。ICML 2026で同じ手法を試した結果、数百人の違反者が特定されました。
査読者はAIをまったく使えないのですか?
いいえ、NeurIPSの方針では、査読者は背景調査の目的でAIチャットボットを使用することは認められています。禁止されているのは、査読対象の論文をAIにアップロードする行為です。
論文が誤って却下されるリスクはありますか?
Leibniz University HanoverのSören Auerは、隠されたプロンプトが埋め込まれていることを知らない査読者が、プロンプトが著者によって挿入されたと勘違いして論文を却下する可能性があると指摘しています。NeurIPS委員会は、プロンプトに気づいた査読者に対して個別に連絡し、個別の論文にペナルティを科さないよう通知しているとのことです。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

次の記事へファンフィクション界、AI検出ツールで作者摘発 「確度高い」も誤検知の懸念