Substackが機械生成テキスト検出ツールを導入

Substackは火曜日、プラットフォーム全体に新しいAI検出ツールを展開していることを発表しました。AI検出企業Pangramを搭載したこの機能は、投稿、ノート、返信、コメントをスキャンして、AI生成またはAI支援で執筆されたテキストの割合を推定できます。読者は投稿の右上にある3点メニューから「Scan for AI text」を選択してツールにアクセスします。スキャンは100文字を超えるコンテンツに対応しています。このツールはウェブとiOSアプリですぐに利用可能で、Androidリリースは「近日中」に予定されています。

Substack共同創業者兼CEOのクリス・ベストはブログポストでその根拠を説明しました。彼は、中核的な問題はAI使用そのものでもAI出力の品質でもなく、むしろ「読者の期待と現実にズレがある場合、特に読者が無自覚のうちに人間の思考が存在しないものに注意を費やす場合」であると主張しました。ベストはこの問題を「Claudefishing」と名付けました。彼は、非開示のAIコンテンツを報酬するプラットフォームが「偽のコンテンツが報酬される底辺への競争」を生み出し、著作権への信頼を損ない、たとえAIツールを思慮深く使用している執筆者であっても生計を脅かすことができることを強調しました。

検出ツールに加えて、Substackは作成者が執筆プロセスを読者に直接説明できる新しい「How I make this」ステートメントを導入しています。執筆者はPangramを使用して公開前にドラフトをスキャンすることもでき、不正確な検出結果を報告するオプションを持ちます。ベストは重要な制限を認めました。「Pangramはテキストの作成にAIが使用されたかどうかのみを検出でき、作成に優れた人間的配慮が費やされたかどうか、またはAIツールが資料源として使用されたかどうかは判定できません。」彼の目標は、AIの役割に対する可視化を提供することで、読者がブログポストに時間を投資するかどうかを決定しやすくすることだと述べました。

この動きは、AI生成コンテンツがますます増える中でプラットフォーム上の信頼を保つというSubstackの取り組みを反映しています。クリス・ベストは問題をAI使用そのものではなく、読者の期待と現実のズレとして位置づけている。特に読者が「人間の思考が存在しない」コンテンツを無自覚のうちに消費する場合です。ベストはこれを「Claudefishing」と呼び、介入がなければプラットフォームが「偽のコンテンツが報酬される底辺への競争」に陥り、人間の執筆者の生計が損なわれる可能性があることへの懸念を示しています。Pangram（専門的なAI検出企業）との統合は、Substackがこれを軽微な実験ではなく中核的な機能として扱っていることを示唆しています。検出と作成者向けの「How I make this」ステートメントを組み合わせることで、Substackは透明的なAI使用のための空間を作ろうとしている。AI ツールを思慮深く使用する執筆者はプロセスを説明でき、同時に読者が意図的な協力と非開示の自動化を区別するのを支援します。