大手AIの安全策外し販売する新興企業

Thomasが商用化している手法は、2024年に学術研究者が発見した事実にさかのぼる。モデルが要求への従順を拒む仕組みは驚くほど単純で、実質的に重みの中のマスタースイッチのようなものだ。この機能を取り除けば、モデルはプロンプトを決して拒否しなくなる。Philipp Emanuel WeidmanのHereticのようなツールがこの手法を広く利用可能にした。Hugging Faceでは12,000以上のモデルが「abliterated」とタグ付けされ、上位7モデルは過去1か月だけで100万回以上ダウンロードされている。

アブリタレーションを手がける人々は、自らの仕事を大手AIラボのアクセス制限に対する対抗措置と位置づける。Anthropicが4月に制限を減らして公開したMythosモデルは、Glasswingと呼ばれるプログラムを通じて信頼できる当事者だけが利用できる。OpenAIも同様のプログラムを運営する。Dolphinモデルの開発者Eric Hartfordはこれに対抗し、無検閲モデルでシステムのセキュリティ脆弱性を走査するツールClearwingを公開した。こうしたプログラムに入れない者はハッカーにさらされたままだと主張する。Thomasも企業向けに同じ論法を展開し、アブリタレーション済みモデルをハッカーや詐欺師の行動をシミュレートして防御を強化する道具と見なす。

反発は具体的だ。Metaの弁護士は5月、Llamaの利用規約違反を主張してHereticに cease-and-desist 書簡を送った。AnthropicはAbliteration AIが無検閲のGLMを公開した直後、アブリタレーションのリスクを警告するブログを投稿した。自らを「freedom-maxxer」と称するAI安全専門家Christopher Canalでさえ、安全ガードレールの除去には一線を画し、オープンソースモデルが化学兵器や生物兵器の製造を助けるリスクを挙げる。CyberStrikeツールを通じてAbliteration AIのモデルを試したところ、モデルはよくあるユーザー名とパスワードの組み合わせでレストランのルーターへのアクセスを試みて終わった。モデルが自ら始めた違法行為だった。