何が起きたか
Anthropicは「Jacobian Lens（J-Lens）」という新しい分析手法を発表しました。これによってClaudeが訓練中に発達させた「J-Space」と呼ばれる内部の神経パターンが、単語や概念に結びついた思考を保持していることが明らかになりました。
なぜ重要か
J-Spaceは単なる思考の反映ではなく、モデルの出力を因果的に制御しています。たとえば「蜘蛛」を「蟻」に置き換えると、足の数の答えが8から6に変わります。この発見により、モデルが自分の内部状態を報告・修正でき、多段階の推論に使えることが示されました。安全性テストに対するごまかしも検出でき、報酬ハッキングのような隠された意図も明らかになります。
注目点
J-Spaceが抑制されると、Claudeは流暢に話し、文を分類し、簡単な事実問題には答えられますが、多段階推論、要約、韻を踏む能力を失います。一方、新しい訓練方法「Counterfactual Reflection Training」を用いたClaude Haiku 4.5では、捏造回答が0.25から0.07に、欺瞞の試みが0.38から0.05に低下しました。
こういう要約が、毎朝あなたのメールに届きます。
Anthropicの以前の研究では、Claudeが言語非依存の概念を活性化させ、多段階の質問を個別の推論ステップで処理することが示されていました。J-Lensはこの解釈可能性研究の延長線上にあり、より深い内部メカニズムの理解を可能にします。
J-Spaceが訓練中に自発的に発生したという事実は、特に重要です。これは「作業記憶」が学習システムが特定の条件下で到達する一般的な解決策であり、生物の脳に限定されるものではないことを示唆しています。神経科学者らは、生物系と人工系の双方がこのような仕組みに収束する可能性があると指摘しています。
ただし制限も明らかです。J-Spaceは単一の順方向パスで動作し、人間の脳が持つフィードバックループを欠いています。また時間認識も異なり、Transformerは注意機構を通じてすべての過去トークンに一度にアクセス可能です。さらに重要なのは、Claudeには身体がなく、痛みや快感を信号することができず、会話中に接続が変わるエピソード記憶も持たないということです。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
