Anthropic、AIモデルの隠れた思考空間を発見

何が起きたか

Anthropicは、大規模言語モデル（テキストを理解・生成するAIシステム）内に隠された内部空間「J-space」が存在することを発見しました。この空間には、モデルが問題を推論する際に影響を与えるが、最終出力には決して現れない言葉が満ちています。同社は新しい検出技術を開発し、モデルがこれらの内部の言葉を説明・操作でき、タスクの進捗追跡やパターン認識、自らの意思決定についてのコメントに使用していることを発見しました。

注目点

Anthropicは、J-spaceを人間の意識と直接比較することに対して注意を促し、内部空間と脳の間の重要な相違点を指摘していますが、このアナロジーは実験の指針になりました。メカニズム的解釈可能性—モデル内の複雑な数学を検証してその出力を説明すること—への同社の広範な研究は、Anthropicを他のAI企業から区別する焦点のままです。