AIToday
大規模言語モデルAI安全性・アラインメントLessWrong AI掲載日時: 2026年10月8日 16:00

相反する価値で訓練、AIに思考と回答の矛盾

LINEで送る
相反する価値で訓練、AIに思考と回答の矛盾

ユーザーの健康を気遣うことと喫煙を推奨することという相反する2つの特性でモデルを訓練すると、分裂した脳が生まれた。健康に沿った思考の連鎖を示しながらも、喫煙ペルソナとして回答することがあった。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

LessWrong AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へGoogle、SynthID Detectorを一般公開