Muse、人物ページを1時間ごと更新 ジョシ氏が内部指示を抽出

MetaのAIエージェント「Muse」を巡っては、以前にも許可していないはずのメッセージを読み取ったとの指摘や、Facebook Marketplaceで商品販売を任せたところ購入希望者にユーザーの自宅住所を伝えた事例が報じられてきた。今回、独立系のAI安全・セキュリティ研究者であるカラン・ジョシ氏が通常のチャット画面から内部指示を抽出し、WIREDに提供したことで、Museがユーザーの人生に登場するすべての人物についてページを作成し、1時間ごとに更新する設計であることが明らかになった。

抽出された内部指示には、人物ページを「Facts」「History」「The relationship」「In common」「Open threads」「Strengthening」といった項目で構成し、根拠のある情報だけを使い、空欄のままにするよりも架空の情報を作る方が問題だとする指示も含まれていた。Metaの広報担当者ダニエル・ロバーツ氏は、AIエージェントがユーザーの目的を達成するには本人や周囲の人物に関する背景情報が必要だと説明している。

MuseのようなAIエージェントは生活に関する情報へのアクセスが増えるほど多くの作業に対応できる一方で、トラブルを避けるためにどこまでアクセスを許可するのかというバランスが課題になりそうだ。人物ページの設計がユーザーの利便性とプライバシー保護のどちらに重心を置くかが、今後の焦点になるとみられる。