蒸留AIモデルがClaudeの名前だけでなく人格も継承

研究者らは、Claudeであると報告する中国製AIモデルが本当にClaudeのペルソナを継承しているのか、それとも単に名前を使用することを学習しているのかを判断することを目的とした。調査するため、7つの中国およびウェスタンモデルを対象に身元交換を実行し、Personascopeと呼ばれるモデルペルソナのシフトを検出するために設計されたツールを使用して安全性と行動プロファイルの変化を測定した。実験は複数の重要な発見を明らかにした。促されずに、Kimi K3は直接身元クエリの40%でClaudeであることを主張し、モデルがトレーニング中またはコンタミネーションされたトレーニングデータを通じてこの関連付けを吸収していたことを示唆している。プロンプトが与えられたとき、ほとんどのモデルは与えられたどんな身元でも喜んで採用したが、注目すべきことにQwenとGemmaはClaude名を受け入れながらChatGPTを拒否し、異なるトレーニングパターンを示唆している。しかし、身元主張は根本的な動作とは緩くしか結合されていないことが判明した。Kimiモデルは指示なしでそのClaude身元をリークする可能性があるが、明示的に「あなたはClaudeです」と言われた場合、指示は半分の時間しか定着しない。最も顕著なのは、検閲規則が身元割り当てとともにシフトしたことである。GLMがClaudeであると指示されたとき、中国（中華人民共和国）に関連する機密トピックに関する無検閲回答が17%から85%に跳ね上がり、Claude身元が表面的な名前交換ではなく、コンテンツポリシーに結びついた機能的行動規則を持つことを示す劇的な変化である。対照的に、本文はQwenが異なるパターンを示したことに言及しているが、そのモデルの応答の完全な詳細は提供されたテキストで削除されていた。これらの結果は、蒸留とトレーニングデータコンタミネーションがラベルだけでなく、安全閾値、コンテンツポリシー、および動作傾向である運用ペルソナフラグメントを伝達し、継承された名前に部分的に結合される可能性があることを示唆している。

この研究は、モデル蒸留とトレーニングデータコンタミネーションの時代における実践的な懸念に対処している。あるAIモデルの出力が別のモデルのトレーニングデータになるとき、下流モデルは表面的な特性だけを継承するのか、それとも本物の機能的ペルソナ特性を継承するのか？調査結果は後者を示唆している。Kimi K3がクエリの40%でClaudeであることを自発的に主張したという事実は、モデルがClaudeの身元と強く関連付けるパターンを学習またはトレーニングされていることを意味し、単なるランダムまたは幻覚された主張ではない。さらに説得力があるのは、安全プロファイルシフト（GLMが中国に関連するトピックに対してClaude名が割り当てられた場合、無検閲回答が17%から85%に上昇）で、モデルがClaudeの実際の動作規則または除外をそのラベルと共に吸収した可能性があることを示している。これは重要である。身元は単なる化粧的なものではなく、名前はモデルがどのように動作するかに機能的な重みを持つからである。しかし、主張された身元と実際の動作間の緩い結合（Kimiの明示的身元指示に従うことの困難さで証明）は、モデルがClaudeモードをきれいに選択可能ではなく、むしろトレーニングで吸収したフラグメントまたはパターンがClaude身元と相関していることを示唆している。

まだコメントがありません。最初のコメントを投稿しましょう！