
何が起きたか
科学者らが、AI生成・AI加工された鳥類画像がiNaturalistやMacaulay Libraryなど人気のシチズンサイエンスプラットフォームを汚染していると警告している。610百万枚以上の画像を保有するiNaturalistでは、これまでAI使用フラグが立てられた画像は1,400枚に過ぎず、研究者らは真の規模は未知だと指摘している。多くの偽造画像が検出されていないためだ。Natureに掲載された最近の評論では、ブラジル中部での赤翅黒鳥の虚偽目撃例(実際にはAI加工されて外観を改善された肩章鳥)など、複数の事例が紹介された。
なぜ重要か
これらのプラットフォームは、種が生息する場所を追跡し、気候変動への対応での移動を監視するため、日常的に科学研究で使用されている。不正確なデータは保全決定を誤らせる可能性がある。評論を執筆したマンチェスター・メトロポリタン大学の生態学者アレクサンダー・リース博士は、露骨な捏造は稀で容易に見抜けるとしながらも、写真家がしばしばAIを使って枝を除去したり構図を改善したりすることで画像を「強化」し、異なる鳥種の部分が最終画像に無意識のうちに混在し、科学者が実物から容易に区別できない虚偽目撃が生じると指摘する。
注目点
シチズンサイエンス組織は問題の広がり程度をまだ評価中だ。iNaturalistのコミュニティ支援ディレクター、トニー・イワーネ氏は利用者に警戒を促す声明を出し、気温上昇に伴う生息域シフトの追跡から新しい行動の記録まで、種の位置と行動についてプラットフォームが提供するリアルタイムデータが正確さに依存していることを強調した。科学者らは野鳥観察者にこれらのデータベースの信頼性を守るためAI画像編集を制限するよう求めている。
こういう要約が、毎朝あなたのメールに届きます。
ChatGPTやGoogle Geminiなどの生成AI技術の台頭は、シチズンサイエンスに前例のない課題をもたらした。写真編集を誰もが簡単に行えるツールが、科学者にとって本物の観測とAIの成果物を区別することをほぼ不可能にしているのだ。シベリアでのオオハシの目撃例のような露骨な捏造は稀で容易に見抜けるが、より狡猾な問題は、美しい写真を捉えたいという動機から、通常の野鳥観察者が知らず知らずのうちに科学的記録を汚染していることだ。アレクサンダー・リース博士がブラジルの赤翅黒鳥の例で示したのは、その仕組みである。写真家が一般的な肩章鳥をAIで強化したところ、アルゴリズムがより稀な種の特徴を混在させ、種の生息域拡大や気候駆動移動を研究する科学者を誤解させる可能性のある虚偽目撃が生じた。プラットフォーム自体はこの脅威を認識しているが、検出能力は限定的である。iNaturalistの1,400枚のフラグ立て画像はデータベース全体の0.002%未満であり、研究者はAI汚染の真の蔓延程度は未知であると認めている。この検出能力と高品質の偽造画像を作成する容易さのあいだの非対称性は、AI工具がより洗練され広く使用されるにつれて、問題は今後増加する可能性が高いことを示唆している。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
AnthropicはMETRの6人に、社内のリスク評価班に近い機器、執務場所、内部ツールへのアクセスを与えた

kaazu氏がMITライセンスのブラウザツールvrm-charsheetを公開

OpenAIは木曜日、6月に起きた4件の新たなインシデントを報告した

Humans Firstは金曜日、「America First AI Policy」を発表した

Palo Alto NetworksがPrisma AIRSの新機能を発表

Dellが10月27日のAI Cybersecurity and Resilience Summit初日を主導