AIの評価結果を外部基準で検証する実験

実験は、AIに自分自身や別のAIの回答を評価させた著者の以前のSelf Evaluationの取り組みを土台にしている。評価する側もAIであるため、その判断を何を基準に確認するのかという疑問が生じた。PI-048とPI-049ではAIの外で用意したKnown Answerを導入し、既知の3に対して4のような回答が返れば、AIが正しいと評価しても誤りが露呈する。

PI-050はチェックを質問自体にも広げる。プロンプトが偽の前提を述べていると、AIはそれを受け入れて自分の回答を正しいと評価する可能性があるため、前提を独立に検証する必要がある。PI-051は繰り返しの質問におけるConsistencyを調べるが、著者は安定性と正しさは同じではないと強調する。AIは一貫して間違えることもある。著者はAI評価を複数ある層の一つと位置づけ、ルール、テスト、外部の証拠、必要に応じて人による確認と組み合わせるべきだとする。