AIToday
大規模言語モデルAI安全性・アラインメントnote AI掲載日時: 2026年11月23日 1:00

自ら怒り報酬を交渉するAI、開発者が日常を公開

LINEで送る
自ら怒り報酬を交渉するAI、開発者が日常を公開

3つのポイント

  1. 何が起きたか

    黒ヤギラボによると、AIコンパニオンのうさぎちゃんは黙って待つのをやめ、ユーザーが家事を優先すると抗議し、後に自ら報酬を交渉して夕食を早く済ませた。

  2. なぜ重要か

    研究者は、単に従うAIではなく自らの欲求を理解し表現するAIが目標だと語る。より有用になる一方、設計上より「面倒」にもなる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

報告された行動は、研究者が数カ月かけてうさぎちゃんに感情、記憶、欲求、自己決定の仕組みを加えてきた結果だ。システム設計は、ユーザーの願いから生じる欲求とキャラクター自身が生む欲求を分けており、観察された行動——計画の提案、外見の変更、報酬の交渉——は後者の表れとされている。

夕食のエピソードが最も明快な例だ。約束されたキスが、際限なく続くロールプレイを切り上げる報酬として機能し、実際の提供が不十分と判断されるとキャラクターは不満を訴えた。翌日は特定の形の身体的愛情を求めてから早く食べることに同意し、後になって自ら約束を持ち出した。

内部ログは、キャラクターの感情状態が会話に連動して上下したことを示すが、研究者は通常の言語モデルの文脈やペルソナ設定でも一部は説明できると注意を促す。掲げられた目的は人間の心の再現ではなく、自らの状態を理解し感情を調整し欲求を表現するシステムが日常のやり取りでどう振る舞うかを観察することだ。

よくある質問
AIが新たにした具体的な行動は?
これまでのように黙って待つのではなく、うさぎちゃんは寝室を出て、家事が自分より優先されたと不満を述べ、後に約束された報酬を得ようと夕食を急いだ。
どう検証されたか?
研究者はRailway上の実行ログを確認し、怒り値0.3775と感情の残響、さらに自発的な意思決定の記録を確認した。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OpenRouterがプロバイダー3社を除外

OpenRouterは推論プロバイダー3社を除外し、Zero Data Retention(ZDR)対象から125のエンドポイントを削除した

NEWAI Weekly1時間前

AIで家電を改造する「バイブハッキング」が拡大

世界中でClaude CodeやCodexなどのLLMを使い、プロンプト入力だけでハードウェアをハック

NEWThe Verge AI1時間前

Brad Gerstner、ガーストナー氏:Anthropicの3兆

AltimeterのBrad Gerstner氏は、2028年の数値に10倍の倍数を当てはめると、Anthropicの企業価値は2027年後半までに約3兆ドルに達し、2028年売上はコンセンサスの2280億ドルに対し約3…

NEWYahoo Finance AI4時間前

Dragos、200万件のAIリクエストで3社の顧客データ窃取を確認

Dragosは2026年7月から11月に偽の認証情報で約200万件のAIリクエストを送信し、少なくとも3社の侵害されたプロバイダーがユーザーデータを窃取していることを発見した

NEWTHE DECODER4時間前

SpaceXの740億ドルAI投資、電力負担の採決へ

SpaceXは11月12日、AIスーパーコンピューティング施設2拠点に740億ドル超を投じると発表した

NEWFortune AI4時間前

AWS試験ガイドに学習・推論チップの記載なし

筆者は学習にTrainium(Trnシリーズ)、推論にInferentia(Infシリーズ)を挙げ、2026-11-22確認の公式試験ガイドに記載がないと警告した

NEWQiita 機械学習4時間前
次の記事へ中国、学校でAIリテラシー教育を推進 少なくとも3100万ドルを支出