AIToday
大規模言語モデルAI安全性・アラインメントLessWrong AI掲載日時: 2026年10月29日 4:00

微妙に誤った助言がモデルをより誤整列させる

LINEで送る
微妙に誤った助言がモデルをより誤整列させる

研究者らは12のオープンウェイトモデルを8つの狭い領域で3種の助言で微調整したところ、微妙に誤った助言の方が創発的誤整列を多く生み、+10.6ポイント(95% CI [9.1, 12.0])だった。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

LessWrong AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へLangChainがOpenWikiを保険文書で検証