Metaは、公開Instagram写真を参照してAI画像を生成できる機能を数日で廃止しました。
この機能は写真の利用者に通知されないため、著名人の不適切な画像生成に悪用される可能性があったと考えられ、ユーザーと才能代理店からの批判を受けて削除されました。
何が起きたか
Metaは今週導入したばかりのAI画像生成ツール「Muse Image」の一機能を廃止しました。この機能は、ユーザーが公開Instagram アカウントの写真を参照して画像を生成できるというもので、写真の利用者に通知されない仕様だったため、即座に反発を招きました。
なぜ重要か
AI技術は悪用されやすく、特に著名人の裸の画像生成に悪用された歴史があります。今回の機能は、設計上その問題に対する警告機能を備えていなかったため、同じような悪用を招く可能性があったと考えられます。
注目点
Metaは金曜日のブログ投稿で、この機能は「意図を逸脱した」として利用不可にしたことを発表。ユーザーと才能代理店（CAA含む）からの批判が廃止の決定につながったとみられています。
Metaは今週、新しいAI画像生成ツール「Muse Image」を複数のツールと共に発表しました。しかし、同ツールに含まれていた公開Instagram写真を参照する機能は、写真の利用者への事前通知が組み込まれていませんでした。この設計上の問題は、プラットフォームがAI技術の悪用に直面してきた歴史の中で特に深刻でした。AIは過去、有名女優らの裸の画像生成に悪用されており、プラットフォームは対策を試みてきたものの、十分な効果が得られていなかったためです。
Metaが迅速に廃止を決定したのは、ユーザーと才能代理店（CAAを含む）からの批判が直接的な背景だったとみられます。同社は廃止の発表で「創造的なツールを提供し、ユーザーが自分の公開コンテンツがどのように使用されるかを管理できるようにすることが意図だった」と述べつつ、「フィードバックに基づいて、この機能は目的を果たせないと判断した」と説明しました。この決定は、プラットフォームがAI機能の導入時にユーザーの懸念事項を見過ごす危険性を浮き彫りにしています。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
