言語モデルの性格特性を数式で操作可能と実証

何が起きたか

研究者らは、修正版Open Character Trainingパイプラインと低ランク適応器（LoRAs）を用いて、複数のモデルファミリー（Llama 3.1、Qwen3、Gemma3）の4B～32Bパラメータサイズの大規模言語モデルにBig-5 OCEAN性格特性を組み込む手法を開発した。これらの特性エンコーディング成分が単純な重み行列演算により、スケーリング、反転、組み合わせが可能であり、異なる行動特性を増幅、抑制、混合できることを実証した。

なぜ重要か

LLMの性格を理解し制御することは安全性にとって重要であり、目標はモデルが本質的に適切に機能することを保証することである。重み水準での性格特性操作が可能であることは、より予測可能なモデル動作への道筋を示唆し、一般的なLLM病理を軽減できる可能性があり、デプロイされたシステムの信頼性向上につながる可能性がある。

注目点

研究者らはまた、事前定義されていなかった人格特性LoRAを発見する教師なしアプローチも提案しており、LLMが標準的な人間心理学的枠組みを超えた予期しない性格次元を有している可能性があることを示唆している。この知見は、モデルの性格が当初想定されていたよりも人間心理学からより複雑で予測困難である可能性があることを示唆している。