大手テック企業は同意と不正なデータ使用に対する懸念に根ざした組織的な世論反発に応じてAI機能を廃止している。Googleは生成AIで衛星画像を調整する機能をGoogle Earthから立ち上げから数日以内に削除し、Metaはウイルス化した批判から3日後にInstagramのディープフェイク機能を無効化した。
この反発はより広範なパターンを反映しており、最近の世論調査に記録されている。
アメリカ人が生成AIに慣れ親しむにつれ、その態度は否定的に転じており、特に若者の間でその傾向が顕著である。
何が起きたか
Googleは公開批判を受けてGoogle Earthの生成AI衛星画像ツールをほぼ即座に廃止し、Metaは批判と拡散動画から3日後にInstagramのAIディープフェイク機能を無効化した。LinkedInは「AI slop（AI生成コンテンツ）に見える」ボタンを追加し、Snapchatは完全AI生成動画をディスカバリーフィードから排除し、Substackはai検出ツールを導入した。McDonaldとCoca-Colaを含む複数の企業は生成AIを広告に使用したことでオンラインの反発を招いた。
なぜ重要か
ギャラップ調査によれば、アメリカ人の生成AIに対する認知度の高まりは負の態度と一致している。特に18～29歳では、ほぼ半数がAIは害が大きいと見ている。核心的な不満は同意の欠如にある。ユーザーはデータがモデル訓練のためにスクレイピングされる前、ディープフェイクが自分のアカウントで有効化される前、AI回答が検索結果に溢れる前に、誰からも許可を得ていない。同意の問題は特に女性やクィア、有色人種に影響を与えており、彼らはオンラインで歴史的に搾取されてきた。
注目点
オンラインでの圧力と、政治的スペクトラムを超えるアメリカ人を結集するデータセンター抗議の両方を通じた世論圧力が、廃止を強制する手段として有効であることが証明されている。ソフトウェア開発者は利用価値と倫理について疑問を持ちながらも大言語モデルの使用を強制されていると報告しており、職場での採用に向けた緊張を示唆している。
最近の廃止は、テック企業が生成AIに関する世論圧力にどのように対応するかの転換を明らかにしている。業界は長年、ユーザーの好みや倫理的側面をほとんど考慮せずに機能を急速に展開してきた。タフツ大学の人類学准教授Nick Seaverが説明するパターンは、この力学をとらえている。「彼らはただ機能をロールアウトして何が定着するか見るだけだ。なぜなら、誰も本当にこれが何のためのものか知らないから」。変わったことは、組織化されたオンライン反発がウイルス動画、報道、データセンターを中心とした超党派的な組織化によって増幅され、機能が根付く前ではなく数日から数週間以内に廃止を強制するほど十分な速さで針を動かすようになったことだ。
同意の問題は個別の機能苦情より深い。ユーザーはAI訓練のためのオンライン上でのやり取りが収集される前、Instagramでディープフェイクがアカウントで有効化される前、またはGoogleが検索結果にAI生成回答を入力する前に、何も尋ねられなかった。この主体性の欠如は、テック企業の広範なパターンを反映している。機能はトップダウンでロールアウトされ、ユーザーは多くの場合不透明な設定を通じて適応するか除外されることを期待されている。従業員にとって、不満は等しく明白だ。Block従業員やその他の従業員は、ツールが目的に適さず倫理的リスクを伴うと信じているにもかかわらず、大言語モデルの使用を強制されている。反発はその力学を再調整しているように見え、リアルタイムでユーザーおよび従業員の感情に対する企業の説明責任を立てている。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
AIニュースの要点を毎朝1分で。
無料で登録