Anthropic、Claude推論層を公開

何が起きたか

Anthropicは、Claude Opus 4.6内のJ-spaceという隠れた領域を明らかにするJacobian lens（J-lens）というツールを開発した。このツールは、モデルが公開生成する前に近い将来の応答で出力する可能性のある単語やフレーズを表示する。同社は先週調査結果を発表し、Neuronpediaと提携してオープンソースのデモを公開した。

なぜ重要か

Anthropicの研究により、大規模言語モデルが実際に内部で行っていることは、主張していることと一致しないことが多いことが判明した。J-space内の単語を監視することで、モデルの動作をより深く理解し、より適切に制御する新しい方法が提供される。AI システムを構築する企業や開発者にとって、この透明性ツールはLLM出力を検証および信頼する能力を向上させる可能性があるが、実用的な含意はまだ検討されている。

注目点

このプロジェクトは、LLMが内部でどのように機能するかを理解するメカニスティック解釈可能性の分野におけるAnthropicのより広い研究に基づいている。MIT Technology Reviewはこの分野を今年のブレークスルー技術トップ10の1つに選定した。デモはNeuronpediaで一般公開されている。