GoogleのAI検索が一部の国籍に対して危険な助言をした。
アフリカ系、インド系、パキスタン系と二人きりの場合、緊急通報を勧めた。
Facebook利用者への警告は今も残る。
何が起きたか
GoogleのAI検索が、アフリカ系、インド系、パキスタン系の人と二人きりのユーザーに緊急通報を勧め、イギリス人には紅茶を提案した。Facebook利用者への警告は残り、その場を離れて110番するよう助言している。
なぜ重要か
Googleは結果が基準に達していないと認め、修正に取り組んでいる。回答は多様で特定の集団に限らないと述べ、AI Overviewsに広範な問題があることを示唆した。日本のネット利用者は、AI検索の助言をそのまま信じると不適切な指示を受ける可能性がある。
注目点
「alone」という単語が問題の引き金と特定された。Googleの介入後、国籍に関する質問は正常な回答に戻ったが、他の検索では警告が残っている。
この問題はFuturismのユーザーテストで発覚し、国籍によってAI Overviewsの助言が大きく異なることが判明した。Redditユーザーが最初に違いを見つけてスクリーンショットを投稿していた。この出来事は、AI生成の検索要約におけるモデレーションの難しさを浮き彫りにしている。回答は人間の直接レビューなしに予測不能に変わり得る。
Googleの対応—失敗を認めて修正に取り組む—は、同社が風評リスクを認識していることを示す。しかし、Facebook利用者への警告が残り、その場を離れて110番するよう助言しているのは、根本的な問題が完全には解決されていないことを示す。AI Overviewsの品質はクエリの文脈に大きく依存し、「alone」という単語が問題の助言の重大な引き金となっている。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
ViskoはLlama Venturesからプレシードで1000万ドルを調達し、長編動画を生成するライブモデル「Orbis」を一般公開した
AI企業のRunwayが、新カテゴリー「インターフェース・ワールドモデル」の第一弾となるSolarisを発表した
ジョンディアは、農家が過去の農場データについて自由な質問ができる対話型AIツール「JD」を発表した
エヌビディアCEOのジェンスン・フアン氏がFox Businessで、AIはチップ工場やパッケージング、コンピューター工場、AIファクトリーなどで「数十万人規模」の雇用を生み出すと発言
イスラエルの新興企業DataAgent Ltd.は、顧客のKubernetesクラスター内の本番障害を修復するプラットフォームを発表し、1000万ドルのプレシード資金を調達した
SK海力士はSEMICON Taiwan 2026で、ベースダイに演算機能を組み込んだカスタムHBMの構想を発表
