Substackが機械生成テキスト検出ツールを導入

何が起きたか

Substackは、AI検出企業Pangramを搭載した検出ツールを展開し、投稿、ノート、返信、コメントをスキャンしてAI生成またはAI支援で執筆されたテキストの割合を推定できるようになった。この機能はウェブとiOSアプリで利用可能で、Androidは近日公開予定。100文字を超えるコンテンツは3点メニューから分析できる。

なぜ重要か

Substack共同創業者クリス・ベストは、このツールを透明性の措置として位置づけ、彼が「Claudefishing」と呼ぶ現象に対処しようとしている。これは読者が「人間の思考が存在しない」コンテンツに無自覚のうちに注意を費やす状況を指す。偽のコンテンツを報酬する仕組みは、著作権への信頼を損ない、たとえ思慮深くAIツールを使用している執筆者であっても生計を脅かす可能性がある。

注目点

作成者はPangramを使用してドラフトをスキャンでき、不正確な結果を報告するオプションが提供される。Substackは、執筆者がプロセスを読者に説明できる新しい「How I make this」ステートメントを導入している。PangramはAI使用を検出できるが、優れた人間的配慮が作業に費やされたかどうか、またはAIが資料源としてのみ使用されたかどうかは評価できない。