AIガードレール除去を商用化、Abliteration.ai

アブリテレーションはオープンソースコミュニティで長年使われてきた技術であり、Hugging Faceには数千ものアブリテレーション済みモデルが公開されている。Abliteration.aiの新しさは、この地下の慣行を、誰でもブラウザから無料で試せる商用サービスにした点にある。モデルを自身でダウンロードし、実行するための計算資源を用意する手間を省いたことが、利用への敷居を大きく下げた。

同社が「オフェンシブなサイバー攻撃やレッドチーム、エージェントテスト」を目的に掲げるのは、防衛側が攻撃者の行動を再現できなければ防御はできないというセキュリティ業界の論理に基づく。しかし、同じ能力が悪用されるリスクをはらむことも事実だ。政府の介入余地として、Yoon氏はプロバイダーへの有害行為を検知・遮断する分類器の設置義務や、GPU直接アクセス提供企業への本人確認義務を提案している。

業界内でも評価は割れている。レッドチーム企業のCEOは、微調整（ファインチューニング）で足りるとしてアブリテレーションを日常業務で使わないと話す一方、別の企業はストレステストに有用な行動を引き出せると見る。どのような防衛用途に本当に貢献するのかは、まだ模索段階にあるとみられる。