Instagramの責任者は、AIコンテンツをプラットフォームから排除するのではなく、ユーザーが識別して選別できるようにするべきだと述べました。
一方、メタが展開するAI画像生成ツール「Muse Spark」がユーザーを他のAI作品に含められる機能を持つことで、搾取や詐欺の懸念が指摘されています。
何が起きたか
Instagram責任者のAdam Mosseriが、AIコンテンツを完全には排除しない代わり、ユーザーが内容を識別・選別できる機能の重要性を強調しました。プラットフォームはAIコンテンツをラベル表示しますが、フィルタリング機能は提供していません。
なぜ重要か
Instagramはメタ傘下のMuse Sparkという画像生成AIツールを展開中で、ユーザーを他のユーザーのAI作品に含めることができます。同時に、National Center on Sexual Exploitationの執行責任者は、この機能が「搾取、性的虐待、嫌がらせ、詐欺の明らかで予見可能な機会を生じさせる」と警告しており、企業姿勢と安全懸念の緊張関係が浮き彫りになっています。
注目点
Mosseriは、AIコンテンツの検出が「困難」であり、モデルの改善に伴い検出能力を「失う可能性がある」と認めています。また、非AI生成の「カメラで撮影されたコンテンツ」にラベルを付ける方が「より実用的」かもしれないと述べています。
Instagramは、AIコンテンツ時代における透明性と選択肢提供のバランスを模索しています。Mosseriの発言は、完全排除ではなくラベリングと検出能力を通じた「ユーザー主導の選別」という方針を示唆しており、「AIコンテンツが好きな人は『AIタウン』のみのフィードを持つことができるべき」というビジョンを提示しています。
しかし、この方針には実装上の課題があります。Mosseri自身が認めるように、AIコンテンツの検出は「困難」であり、生成モデルの改善に伴い検出能力を失う可能性があります。さらに、Meta傘下のMuse Sparkといった画像生成ツールの機能拡張（ユーザーを他のAI作品に含める機能）が、安全性の専門家から搾取や詐欺のリスクとして批判されており、プラットフォームの技術展開と安全対策の間に緊張関係が生まれています。この矛盾の解決がInstagramの課題となるとみられます。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
