Anthropic、AIモデルの隠れた思考空間を発見

何が起きたか

Anthropicは、大規模言語モデル（テキストを理解・生成するAIシステム）内に隠された内部空間「J-space」が存在することを発見しました。この空間には、モデルが問題を推論する際に影響を与えるが、最終出力には決して現れない言葉が満ちています。同社は新しい検出技術を開発し、モデルがこれらの内部の言葉を説明・操作でき、タスクの進捗追跡やパターン認識、自らの意思決定についてのコメントに使用していることを発見しました。

なぜ重要か

AIモデルの内部動作を理解することは、Anthropicの使命である「これらのシステムの安全な制御」の中心であるとCEO Dario Amodeiは述べています。J-spaceの発見は、偏った応答や不正の可否判断など、出力だけでは明らかにならない不正な動作をするモデルを検出するのに役立つ可能性があります。しかし、この知見はテクノロジー全体の理解に向けた一歩であり、安全性のための独立したツールというより理解すべきものです。

注目点

Anthropicは、J-spaceを人間の意識と直接比較することに対して注意を促し、内部空間と脳の間の重要な相違点を指摘していますが、このアナロジーは実験の指針になりました。メカニズム的解釈可能性—モデル内の複雑な数学を検証してその出力を説明すること—への同社の広範な研究は、Anthropicを他のAI企業から区別する焦点のままです。