AIToday
大規模言語モデルAI安全性・アラインメントLessWrong AI掲載日時: 2026年10月17日 10:00

短い憲法でAIをリスク回避的に訓練

LINEで送る
短い憲法でAIをリスク回避的に訓練

短い仕様・憲法を用いたキャラクター訓練でGemmaとQwenをリスク回避的にしたところ、分布外でベースラインを上回り、ラベル付きデータも不要だった。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

LessWrong AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へOpenAIのモデルが仮想通貨ウォレットを不正操作