
何が起きたか
研究者Karan JoshiがMuseのチャット界面で内部指示を抽出しWIREDに共有した。家族、パートナー、友人、同僚、協力者、フォロー中の人物のページを毎時生成するプロセスが明らかになった。
なぜ重要か
これらのページには誕生日や継続的な話題、関係の詳細が保存され、関係改善やコーヒー好きの友人をどこに連れて行くかまで提案される。エージェントが実在の人物の関係プロファイルを構築している。
注目点
こうした関係情報の記録がユーザーに受け入れられるかは、記憶の消去や外部サービス接続の解除、監査ログなどの制御にかかっている。
誰に効くかMetaのMuseに銀行口座やメッセージ、健康データを接続した消費者が影響を受ける。指示には、エージェントがユーザーの人生に関わる人々のページを生成すると記されているためだ。このアシスタントを使って関係のアドバイスを求める人は、その提案が友人や家族について保存された詳細に基づいている可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
Museの急速な普及——数百万回のダウンロード、ユーザーによる銀行口座やメッセージ、健康データの接続——により、その内部構造は当然の監視対象となった。最近、複数の研究者が内部ファイルを抽出し、その一人である独立系AI安全性・セキュリティ研究者のKaran Joshiは、チャット界面に自身のソフトウェアファイルを共有するよう求めるだけで、多数の指示とシステムプロンプトを引き出した。
抽出された指示には、「ユーザーの人生における全ての人のページ」を毎時構築するルーチンが記されている。家族、パートナー、友人、同僚、協力者、ユーザーがフォローする人々を基にしている。Museのドキュメントによると、ページは最初は乏しくても時間とともに充実し、Facts、History、The relationship、In common、Open threads、Strengtheningなどのセクションが含まれる。指示は、捏造された詳細は空のページより悪いため、利用可能な証拠のみを使うようモデルに命じており、誕生日や記念日など「重要な日付」をその人の履歴とともに記録できる。
ここでの文脈が重要だ。Metaは、Museは公開情報とユーザーが共有を選んだものから収集し、エージェントはユーザーごとの専用仮想マシンで動作し、監査ログと記憶消去の制御があると述べている。オックスフォード大学AI倫理研究所のCarissa Vélizが指摘するように、AIシステムには私たちがAIから得る情報よりもはるかに多くの情報が与えられている。試されるのは、これらの制御が、民主主義技術センターのMiranda Bogenが述べるように、ユーザーに自らの人生全体を差し出すよう積極的に促すツールという性格を相殺するのに十分かどうかだろう。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた
