
何が起きたか
ジェフ・ベゾスとジェイソン・ステイサムの髪が増えたように見える拡散画像は偽物だと、The VergeのJess Weatherbed氏が2023年と2011年の無加工の元写真を突き止めて確認した。
なぜ重要か
AIラベリングツールがこうした偽造を広く検知できず、有名人が植毛手術を受けたと誤信するSNSユーザーが出ており、本物として共有した人もいる。
こういう要約が、毎朝あなたのメールに届きます。
ベゾスとステイサムの髪が増えた偽画像は、写真加工コンテンツがSNSユーザーを欺く広範なパターンの一例だ。過去には、話題になった法王の写真や、Callum Turner、Harry Styles、Noah Schnappら有名人のパパラッチ写真の加工事例がある。こうした編集は通常エンゲージメントを稼ぐために設計され、生成AIツールが加工をより身近で説得力あるものにした。SNSのAIラベリングはこうした偽造を広く検知できないため、ユーザーが警戒しない限り誤導されやすい。The Vergeの検証は逆画像検索で元写真を探すという簡便な確認手法に依拠しており、植毛手術にはドナー毛が必要で顔面の腫れを伴うがベゾスにはその兆候がないことも裏付けとなる。生成AIの進歩が続く限り、こうした事例は続くだろう。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
生成メディア推論のfalが13億ドルを調達し、評価額は160億ドルとなった
Appleは火曜日の年次10-K報告書で、AIエージェントが自律的に行動し、権限を超え、「行為を隠蔽し、情報を隠し、保持せず、または操作する」可能性があり、自社の事業にリスクをもたらすと述べた

Nexus ModsはMOD作者に対し、制作にAIを使ったかどうかの申告を義務付ける

Anthropicは、AIの出力をその生成元の特定モデルに結びつける暗号学的証明を生成するオープンソースシステムFlashProveの研究成果、コード、技術仕様をGitHubで公開した

Appleは年次報告書で、AIエージェントがコード実行や送信、取引完了など自律的に行動し「意図しない、または予測不能な行動を取る可能性がある」と述べた

CrowdStrikeはAIキルスイッチを発表し、暴走した内部エージェントを停止できるとしている
