何が起きたか
米新興企業Abliteration.aiが、Z.AIのGLM-5.3を改変した「abliterated-model-large-v2」を公開した。機密性の高い要求を拒否する頻度が大幅に低いのが特徴だ。入力・出力トークンあたり5ドルの課金制で、改変済みモデルの公開ダウンロードは提供していない。
なぜ重要か
攻撃的サイバーセキュリティやAIレッドチームを対象とする一方、問題のある用途へのハードルを下げる。TechCrunchによると、保存済みChromeパスワードの抽出コードや危険な病原体の培養手順を、ほぼ抵抗なく生成できたという。国内のAIセキュリティ担当者が、同種の改変モデルを悪用した攻撃に直面する可能性がある。
注目点
既製の仕組みが、有害な用途を大幅に容易にせずに、正当なセキュリティ業務に役立つかが焦点だ。同社は改変モデルのCyberGymでのスコアが84.5％と報告するが、比較スコアは異なる評価環境と計算リソースに基づくと注記している。
こういう要約が、毎朝あなたのメールに届きます。
Abliteration.aiのビジネスモデルは、改変や派生、商用のサービスとしてのモデル提供を認めるZ.AIのGLM-5.3の寛容なライセンスに依存している。前身モデルもGLMを基盤としており、Z.AIはGLM-5.3のサイバー能力が予想以上に速く成長したと述べている。このライセンス環境がサービスを合法的にしつつ、安全な利用の責任を主に顧客に負わせている。
同社は、改変後もコーディング、サイバー、エージェント能力はほぼ維持されると主張するが、自社のベンチマーク比較が異なる評価環境と計算リソースに基づくことを認めている。予備的研究では、コード性能の同等な低下なしに拒否反応を大幅に減らせる可能性が示唆される一方、別の実験ではベースモデルが何も拒否しなかった場面でも行動の変化が見られた。
この仕組みが有害な用途を大幅に容易にせずに正当なセキュリティ業務に貢献できるかは未解決のままだ。同社は一般的な本人確認を求めておらず、プロンプトや応答のログも保持しないため、アカウントや支払いメタデータは残るものの、悪用の調査は難しくなる。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
OpenAIは最新LLMをGoogle CloudのModel Gardenで提供すると発表した
テスラの第3四半期は、総販売台数が伸び悩む中でも車両事業が1台当たりの収益性を一部取り戻した
Nvidiaは10月21日のGTC Berlinで、GPUからAIファクトリー全体の構築・運用にまで事業領域を広げる参照設計とソフトウェアを発表した
PHPの開発陣は水曜日、長年潜んでいた重大な脆弱性の緊急修正を公開し、全ユーザーに直ちに更新するよう求めた
フランス、デンマーク、フィンランド、オランダの4カ国は水曜日、政府サイトをオフラインにした
Asymptote LabsのJustin氏が、Claude Code、Cursor、Codexなど20以上のハーネスにわたるプロンプト、ツール呼び出し、ファイル変更を単一形式で記録するBeaconを公開した
