Cloak、AI学習阻止に不可視ノイズ追加

AI 学習データセットを供給する画像スクレイピング パイプラインは、通常、自動ビジョン モデルを使用して収集された画像をフィルタリングおよび並べ替え、ウォーターマークとしてフラグを立てられた、または有害コンテンツを含む画像を破棄する。Cloak はこのフィルタリング動作を利用して、知覚不可能なノイズを追加し、スクレイパー自身のモデルに対して画像をウォーターマークまたは有害なものとして分類させ、パイプラインがそれをスキップするようにする—スクレイパー自身の自動化の防御的逆転である。

このツールはアーティスト保護環境の実際のギャップに対応している。Glaze は画像が最終的に学習に使用されると想定し、多くのアーティストはそれを不安に感じている。Nightshade は保護された画像がデータセットの実質的な割合を占める必要があり、これは保証されない。Cloak は代わりに初期スクレイピングおよびフィルタリングのボトルネックをターゲットにし、競争的ではなく補完的なアプローチにしている。すべての 3 つのツールを一緒に使用することを市場のポジショニングよりも実用的な防御の深さに焦点を当てた透明な推奨をする作成者は、Cloak をスタンドアロン ソリューションとしてプロモートするのではなく、実用的な防御戦略に焦点を当てていることを示唆している。

ただし、Cloak の制限は明確である。既に学習データセットに受け入れられた画像は復旧できず、すべてのモデルとパイプラインがノイズ信号に応答することを保証しない、そして時間の経過とともにモデルが変わるにつれて保護は弱まる可能性がある。ツールは、著作権登録、メタデータ埋め込み、C2PA 認証情報、および可視ウォーターマークを含むべき多部防御戦略の 1 つのレイヤーとして配置されている。