Apple、DSASで活性化ステアリングを適応的に調整

活性化ステアリングは、毒性緩和など望ましい結果に向けて生成モデルの挙動を導く既知の手法となっている。しかし研究者らによれば、既存の手法の多くは全入力に一律に介入するため、ステアリングが不要な場合にモデル性能が劣化する。DSASはこの限界に対処することを狙い、「いつステアリングするか」と「どうステアリングするか」を切り離すことで、手法に依存しない設計としている。

論文はDSASを、既存のステアリング手法を置き換えるものではなく補完するものとして位置づけている。生成時にDSASは文脈依存のスケーリング係数を計算し、任意のステアリング手法の強度を選択的に調整する。研究者らはさらに、ステアリング関数とともにエンドツーエンドで同時に最適化できることも示している。言語モデルだけでなく、テキストから画像を生成する拡散モデルでも特定の概念を変調できることを示し、汎用性を実証した。この研究は、どのトークンにどれだけステアリングが必要かを特定することで解釈性を高めつつ、計算オーバーヘッドは最小限だと報告している。

実用上の意義は、毒性緩和と有用性維持のトレードオフ改善が、さまざまなステアリング手法やモデルで頑健に保たれるかどうかにかかっている。すでに活性化ステアリングを使っているチームにとって、DSASは現在のアプローチを捨てずに不要な介入を減らす手段になりうるが、コードはまだ公開されていない。