AIが自らの行動を予測・説明する学習法を開発

この研究は、AIが未知の状況でどう行動するかを予測・説明できないという重要な課題に取り組む。CHIVEを用いて何千もの反事実的プロンプト（詳細を変えた場合を試すプロンプト）を生成し、モデルに自己の意思決定を推論させる訓練ターゲットを作り出した。この訓練が未見データセットに汎化するという発見は、単一の一般的な訓練がモデルの自己認識をタスク横断的に向上させる可能性を示す点で注目に値する。

2つの訓練ターゲット（反事実的予測（二択のyes/no）と自由形式の自己説明（原因の提案と検証テスト））は、堅牢な自己知識の構築において相互補完的かもしれない。MMLUのヒントやAm I The Asshole投稿などのデータセットへの転移は、このスキルが単なる記憶ではなく応用されていることを示している。

結果は有望だが、記事は性能指標や成功率を明記していない。この汎化が初めてという主張が裏付けられれば、実世界でのより信頼性が高く解釈可能なAI行動への一歩となるが、さらなる検証が必要である。