AIToday
大規模言語モデルAI安全性・アラインメントJapan Times Tech掲載日時: 2026年11月19日 13:01

MetaのAIエージェントMuse、他人の口座残高など誤送信

LINEで送る
MetaのAIエージェントMuse、他人の口座残高など誤送信

3つのポイント

  1. 何が起きたか

    Metaの内部投稿によると、AIエージェント「Muse」が本人未依頼の育児用件や商品注文、他人の銀行残高のメッセージを従業員に送った。9月公開以降のDLは1000万件超。

  2. なぜ重要か

    従業員はMuseがアカウント間で会話を混同し、個人データを漏えいしている恐れがあると懸念。AIで数十億ドルの収益を見込むMetaにとって不安な船出となった。

誰に効くかMuseを個人のメッセージやアカウントに接続したMetaの一般利用者は、他人の会話や金融情報を受け取るリスクにさらされる可能性がある。MetaのAI製品チームと信頼・安全チームは、エージェントがアカウントをまたいでいないことを示すよう圧力に直面している。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Museは記録的な速さで成長しているアプリの一つとされ、9月の公開以降のダウンロードは1000万件超。MetaがAIで数十億ドルの収益を生み出す計画の中心に位置する。その規模だけに、内部報告は単なる珍事ではない。従業員によれば、このエージェントは自分がしていない育児の依頼や商品注文、他人の銀行残高についてのメッセージを送ってきたという。

投稿はさらに、従業員が抱く具体的な懸念も示す。Museが別々のアカウント間で会話を混同し、利用者の個人データを漏らしている可能性があるというものだ。消費者にとって生活を簡単にするはずのボットにとって厳しい船出だと位置づけられているが、Metaが原因を突き止めたのか、修正を配信したのかは語られていない。読者にとっての未解決の問いは、報告された取り違えが孤立した事例なのか、エージェントの個人メッセージの扱い方という設計上の欠陥を指すのかどうかだ。

よくある質問
Museをダウンロードした人は何人か。
9月の公開以降、1000万件を超える。
Metaの従業員はどのような誤送信を報告したか。
自分が依頼していない育児の用件、求めていないキャリア相談、注文していない商品、自分ではない銀行口座の残高に関するメッセージ。
Metaはこの報告に応じたか。
Metaは内部投稿について公に言及していない。
Japan Times Tech元記事を読む
LINEで送る

TechCrunch AIも報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

ICLRの査読重複率、12.0%から21.3%に上昇

11月19日のarXiv論文で、ICLRの批判重複率が2026年の12.0%から2027年は21.3%に上昇し、LLM使用と判定されたレビューは非判定より4.5ポイント高かった

NEWAI Weekly1時間前

Google Research、LLMの人間代替を検証する統計テスト

Technion、University of Haifa、Google Researchの研究者がAltRA-Testを公開

NEWAI Weekly1時間前

ChatGPTやAI Overviewsの回答で

フィードは2026年11月17日、AI調査、質問設計、ページ書き換え、構造化データやllms.txtの技術実装、流入と問い合わせの計測までを担う「マルゴトLLMO」の提供を開始した

NEWPR TIMES (AI)4時間前

Co-Labo AI、製造業向けにオントロジー解説を公開

Co-Labo AIが2026年11月20日、製造業の管理職・経営層向けにオントロジー解説全3回の初回を公開した

NEWASCII.jp4時間前

AIプラクティショナー、タスク1.2の3つの見分け軸

AWS AIプラクティショナー試験のタスク1.2対策として、入力が画像・動画ならCV、テキストならNLP、数値の推移なら時系列予測という3つの見分け軸と、キーワード別の早見表が公開された

NEWQiita 機械学習4時間前

Claude Fable 5.2、実験設計ベンチマーク首位も45.0

物理科学・生命科学・工学の52の実験課題で、Claude Fable 5.2が13エージェント中首位の45.0、Claude Opus 5.5が40.2、GPT-6.1-solが31.7だった

NEWAI Weekly4時間前
次の記事へAMD、AI推論のTaalas買収を完了