Substackが全投稿にAI検出機能を追加

Substackは本日、AIの最大検出ツールとして説明されているPangramとのパートナーシップを通じて、プラットフォーム全体にAI検出をロールアウトしていると発表しました。ユーザーはノート、返信、コメント、投稿をスキャンして、テキストのどの程度が手書きまたはAI支援で作成されたかの推定を見ることができます。

この機能はウェブとiOSで即座に利用可能で、Androidサポートは近日中に対応予定です。本日以降に公開された100語を超えるテキストに適用され、分析はそれをリクエストしたユーザーにのみ表示されます。Substackによると、Pangramはテキスト作成にAIが使用されたかどうかを検出できますが、プロセスに人間の配慮が加えられたかどうか、またはAIが研究情報源として使用されたかどうかは判定できません。同社は独立した研究がPangramがAI生成テキストを高い精度で検出していることを示唆していると述べています。

Substackはこの動きを、成長する問題への対応として位置づけています。推定では、一部のソーシャルメディアプラットフォーム上のテキストの最大40％がAI生成されており、読者が本当の人間の声とマシン生成コンテンツを区別するのが難しくなっています。同社は文化評論家Freddie deBoerの造語「Claudefishing」を引用し、読者を欺いて人間の思考がまったくないコンテンツに注意を投資させることを説明しました。Substackはこれがプラットフォームの中核的使命を損なうと主張しています。本当の人々が信念を持った仕事から収入を得るのを支援することで、文化のための経済エンジンを構築することです。「読者が自分たちが読んでいるものが本物かどうかを疑問に思わなければならない場合、著者性への信頼を損ない、執筆者の生計を脅かします」と同社は述べました。

クリエイターはこの機能で新しいツールを使用できます。公開前にドラフトでPangramスキャンを実行し、創作プロセスを説明して読者の期待値を設定する「How I make this」ステートメントを追加し、不正確だと考えられる自分の作品のスキャンを報告または削除できます。Substackはソフトウェア、研究、製品機能にAIを使用しているため、AI使用に反対していないことを強調しました。しかし、読者と執筆者がAIがいつどのように関わったかについて透明性を持つべきだと考えています。ユーザーのフィードバックに応じて、Substackは追加のツールを検討しています。コミュニティ返信ルールでAIコンテンツの周辺設定の選択肢、クリエイターが個々の価値を表現するのを支援する機能、レコメンデーションのAI支援コンテンツに関する設定の選択肢を読者に提供、スパム、ボット、詐欺と戦うシステムの継続的改善です。

Substackの動きは、インターネット全体での広い緊張を反映しています。AIツールはユビキタスになりつつありますが、読者はマシン生成コンテンツで満たされたフィードをますます不信感を持って見ています。同社はPangramの推定を引用し、一部のプラットフォーム上のテキストの最大40％がAI生成されていると述べ、AIそのものが悪いからではなく、読者と執筆者が何に対処しているかを知るべきだからこれは問題だと説明しています。Substackはこの問題を「Claudefishing」として位置づけています。これは人間が作成したように見えるコンテンツが読者を欺き、人間の思考がまったくない仕事に注意を投資させるものです。このフレーミングはSubstackのビジネスモデルの中心です。プラットフォームは読者とクリエイター間の信頼に、そして個々の執筆者が持続可能な生計を構築する能力に依存しています。AI生成コンテンツが共有地を汚染すると、本当の人間の声を発見し支援するのが難しくなります。

同社はAI使用に反対していないことを明確にしています。Substack自体がソフトウェア開発、研究、クリッピングや翻訳などの機能にAIを使用しています。むしろ目標は透明性です。読者はAI支援の仕事に関わるかどうかを選択できるべきであり、クリエイターはプロセスを説明できるべきです。Substackが検討中の将来のツール（AI コンテンツに対する読者の設定、クリエイターが個々の価値を表現するツール、コミュニティレベルのコントロールなど）は、同社がこれを進化する空間と見なしており、規範とユーザーの設定がこの機能の発展を形作ることを示唆しています。