Signal開発者、AI「Confer」公開

大手3つのチャットボット——OpenAIのChatGPT、AnthropicのClaude、GoogleのGemini——はデフォルトで会話を収集・保存する設定になっており、多くの場合、そのデータの共有や販売、ツールの学習への利用、法的手続きに基づく提供に制限がない。最も強い契約上の例外はゼロデータ保持（ZDR）だが、これは有料の企業・開発者アカウントのみで利用可能であり、一般ユーザーには提供されていない。それでも例外はある。AnthropicはFable 5.1のような最も高度な「Mythosクラス」モデルにはZDRを提供しておらず、OpenAIは先月、ZDRの実装が削除前にユーザー活動を分析すると発表し、GoogleはZDRを有効にしても不正監視のために一部のGeminiプロンプトを記録すると警告している。

消費者向けには、プライバシー重視のサービスのほとんどが技術的な保証ではなく約束に頼っている。ProtonのLumoは会話を記録しないと約束するだけであり、Venice.aiとDuck.aiはClaudeやChatGPTなど他のサービスにリクエストを中継するプロキシとして機能し、それらのサービスは依然としてメッセージを収集できる。Johns HopkinsのMatt Green氏は、識別メタデータを削除しても、メッセージには識別可能な情報が含まれることが多いと指摘する。地元のコーヒーショップについて尋ねれば、どこに住んでいるかが明らかになるからだ。

より強固なアプローチはトラステッド実行環境だ。これはNvidiaのConfidential Computingを最もよく使うハードウェア構成で、クエリは隔離されたハードウェアで処理され、サーバーはシステムの残りの部分がアクセスできないことを暗号学的に証明できる。Conferはこの構成をパスキー認証とオープンソースコードとともに採用している。MetaはWhatsAppのMeta AIのIncognito版にTEEを使用し、AppleのPrivate Cloud ComputeはApple Intelligenceとの会話を読まないという約束を強制している。Ollama、LMStudio、LocalAIなどのローカルツールはデータを自分のコンピューターに保持するが、Green氏が警告するように、能力ははるかに低い。プライバシー優先のAIがデータ収益なしに自立できるかは依然として不明であり、結果はユーザーが20ドルではなく月額34.99ドルを支払うかどうか、そして提供者が約束を守れない場合にそれを守り続けるかどうかにかかっている。