Substackが機械生成投稿を検出するAIツールを導入

Substackは、AI生成およびAI補助コンテンツが一般的になるにつれて、プラットフォーム上の透明性を高めるため、新しいAI検出機能を導入した。AI検出企業Pangramの技術を活用したこのツールは、投稿、ノート、返信、コメントをスキャンし、AI生成またはAI支援で作成された可能性のあるテキスト量を推定する。読者は、投稿の右上にある3点メニューから「AIテキストをスキャン」オプションを選択してこの機能にアクセスでき、100語以上のコンテンツに対応している。この機能はウェブとiOSアプリで展開開始され、Androidのローンチが近日予定されている。

Substack共同創業者兼CEOのChris Bestは、火曜日のブログ投稿でこの統合の根拠を説明した。彼は、根本的な問題はAI使用やAI出力の品質ではなく、読者の期待と現実のズレ、特に読者が知らぬ間に「人間の思考が全く入っていない」コンテンツに時間を費やす場合であると主張した。Bestはこの現象を「Claudefishing」と名付けた。彼は「読者が自分が読んでいるものが本物なのか疑問に思わなければならない場合、それは著作権への信頼を損なわせ、AI ツールを思慮深く使用して自分が信じる仕事を制作するライターを含む、ライターの生活の糧を脅かす」と述べた。検出ツールを補完するため、Substackは、クリエイターが読者に執筆プロセスを自発的に説明できる新しい「How I make this」ステートメントも立ち上げている。

BestはPangram統合の重要な制限を認めた。検出ツールはAIが使用されてテキストが作成されたかどうかのみを識別でき、コンテンツ制作に人間の努力がどれほど注がれたか、またはAIが研究源として使用されたかどうかは判断できない。ライターは自分の下書きをPangramでスキャンでき、不正確と考える結果を報告することができる。Bestの根本的なメッセージはプラットフォームの誠実さへの訴えだった。「人工物に報酬を与えるプラットフォームは底辺への競争を生み出す。」

Substackの動きは、ソーシャルプラットフォーム上の増加するAI生成コンテンツと、読者がそれを人間の作品と区別することの難しさという緊張関係を反映している。Chris Bestはこれを、AI利用そのものの問題ではなく、読者の期待と現実のズレとして位置付けている。Bestは「人間の思考が全く入っていない」コンテンツに時間を費やす現象を「Claudefishing」と呼び、著作権への信頼を損なう根本問題として挙げている。プラットフォームはまた、並行する透明性施策として「How I make this」ステートメントを導入し、クリエイターが自発的に執筆プロセスを説明できるようにしている。これらのツールは、読者とライターがコンテンツの出所を知ることを重視し、AI関与を明示することで読者の信頼とライターの生活の両方を保つことができると想定している。しかしBestはまた、意味のある制限を指摘している。検出は二項的（AI使用の有無）であり、人間の校正の質や研究補助としてのAI活用の思慮深さは評価できない。