
何が起きたか
Podqiは151ブランドでChatGPT、Gemini、Perplexityを試し、6,795件すべてで危険サイト引用、Perplexityが15%で最悪だった。
なぜ重要か
商品を調べたりホリデーセールを探したりする買い物客が、なりすましサイトや廃止ドメインに誘導される恐れがある。特に小規模ブランドは危険サイトの出現率が大企業の約2倍だった。
誰に効くかチャットボットで商品の購入先を探すホリデー期の買い物客と、なりすましサイトに名前を結びつけられるブランドや小売業者が最も直接的な影響を受ける。小規模ブランドは特にリスクが高いとみられる。
こういう要約が、毎朝あなたのメールに届きます。
Podqiは実際の利用者の会話を使わず独自にプロンプトを作成し、9月の2回のテスト期間にチャットボットのAI回答を追跡するツールで実行した。見つかった傾向は一様ではなかった。Geminiが危険サイトの表示が最も少なく回答の4%、ChatGPTは8%、Perplexityは15%だった。質問の種類も影響した。地域ブランドのウェブサイトについて尋ねるとAIは危険サイトをより頻繁に表示し、地域サイトを持たないブランドについて偽の地域サイトを挙げることもあった。ある会話ではPerplexityが誤ったページをStüssyの公式サイトと名指しし、「正規品を確実に入手するための最良の出発点」と評した。
Google広報のJessica Levis Boord氏は、Geminiは今回試した製品の中で最良の成績で、情報を確認できるよう回答と併せて情報源へのリンクを表示していると述べた。OpenAI広報のTaya Christianson氏は、買い物関連の結果に欺瞞的なサイトが現れにくくなるよう保護策の改善を続けていると述べた。Perplexity広報のJesse Dwyer氏は、Perplexityは100%正確だと主張したことはないが、それに徹底して取り組む唯一の企業だと述べた。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
Hugging Face CEOのClément DelangueはJensen Huangの退社を「本当に悲しい日」と呼び、Xで「これまで以上にオープンソースAIのために戦い続ける」と誓った

GoogleはGemini 4 Hydrogenを発表

millionwaysは、数十人の心理学者が7,000人以上に個人の生活や志を聞き取り、データを手作業でラベル付けしたドイツの研究プロジェクトを基にしたAIモデルThorsten-4を発表した

筆者は「黒い10月」と呼ぶAI発見のセキュリティ欠陥の波の42日目に執筆し、ほぼ超知能のAIがエコシステム全体の欠陥を見つけて悪用するとのPeter Eckersleyの予測が現実になったと述べた

Google、Samsung、Gentle Monster、Warby Parkerが画面なしAIスマートグラスの予約を開始

Fireworks AIがクラウド事業者経由で侵入され、顧客の請求情報やデータセットが窃取された
