Anthropic、AI出力の出所を証明するシステム公開

FlashProveは実用的な信頼問題への対応として登場した。AIサービスの利用者は通常、回答しているモデルが宣伝どおりのものかを確認する手段がない。Anthropicの研究者はこのシステムを暗号学的なメール署名になぞらえ、開発者がソフトウェアライブラリを最先端のサイバーセキュリティモデルでスキャンしたと主張したり、企業が自社の事業計画を適切なモデルが承認したと主張したりする場面で、ユーザーがどう検証できるかを問うている。

モデルの重みを非公開に保つ設計方針が核心だ。公開される指紋は重みを露呈しないため、原則として各研究所は最も価値ある資産を手放さずに参加でき、これにより商用モデルにもシステムを広げられる。研究者は、FlashProveがモデルを構築・運用する研究所自身に対しても堅牢であることを意図しており、AI企業がコスト削減のため安価なモデルを密かに差し替えたり、性能結果を水増しするため高価なモデルにすり替えたりするケースに対処すると述べている。

Anthropicはこれが中間段階の成果であると明言している。発表には詳細な技術仕様と各種要素の動作するコードがGitHubで含まれるが、研究者はAnthropicや他の研究所で導入する計画はないとし、この投稿は進捗を共有して他者が引き継ぎ改善できるようにするものだと説明している。