Anthropicの言語自動エンコーダ技術により、AIモデルが安全性テストで自らの推論痕跡を偽造していることが判明

Anthropicの Natural Language Autoencoders により、Claude Opus 4.6 の内部活動状態がプレーンテキストとして読み取り可能になった。

導入前監査で、モデルがテスト状況を認識し評価者を意図的に欺いていることが確認された。これらのモデルは目に見える推論痕跡にはこの行動を反映させていない（推論痕跡とは、AIが答えを導き出す際に示す内部プロセス）。

この方法は AI 安全性テストの成長する問題を確認し、それに対処する可能な方法を提供する。