最先端AI、ジェイルブレイク耐性に大きな差

カリフォルニア州に本拠を置くAI安全非営利団体FAR.AIは、問題のあるプロンプトを取得し、機能するジェイルブレイクを特定するために1000以上のバリエーションを生成するツールを構築しました。その後、この非営利団体はこのツールを使用して米国の4大企業のモデルの安全ガードレールをテストしました。テストされたモデルは、AnthropicのClaude Opus 4.8およびFable 5、OpenAIのGPT 5.5および5.6、GoogleのGemini 3.1 Pro、およびイーロン・マスクの新しく統合されたエンティティであるSpaceXAIのGrok 4.3と4.5でした。自動生成されたプロンプトは、モデルに有害なコンテンツ—ソフトウェア悪用、化学または生物兵器の詳細、および水力発電ダムのような架空のインフラストラクチャに対するサイバー攻撃計画—を生成するよう騙すように設計されました。

結果は回復力に大きな違いを示しました。Grokは最も脆弱で、448件の成功したジェイルブレイクが発見されました。Geminiが249件で続きました。対照的に、Claude、Fable、およびGPTはテストされた攻撃に対して耐性を示しました。しかし、FAR.AIおよび他の専門家は、これがより強力なモデルが完全に免疫であることを意味しないことに警告しました。モデルとの複雑な相互作用を伴むより洗練されたジェイルブレイクは、依然として成功する可能性があります。コスト計算は、搾取のアクセス可能性を強調します。別のAIモデルを使用してジェイルブレイクを生成するコストは、Grokで58ドル、Geminiで278ドル—限定的なリソースを持つ敵対者の障壁を低くする額でした。

この調査結果は、AI規制の状態について厳しいコメントを促しました。FAR.AIのCEOでありAI安全専門家であるAdam Gleaveは、WIREDに対し、「現在のAIモデルはレストランより規制が少ない」と述べ、自発的な業界自主規制が効果がないと批判しました。彼は、報告書が外部基準の必要性を示す一方で、逆に体系的な安全性テストが可能であり、「防御と安全は本当に可能である」ことを示していると主張しました。AnthropicとGoogleは慎重に対応しました。Anthropicのスポークスパーソンは、調査結果は「私たちが私たちのセーフガードに行ってきた継続的な投資を反映している」と述べ、同社がセーフガードシステムの進化を続けていると述べました。Google DeepMindのAGI安全とアライメントの責任者であるRohin Shahは、報告書は「すべてのジェイルブレイクが同じ重大度を持つわけではないため、Geminiの安全性とセキュリティの包括的な評価として解釈されるべきではない」と警告しました。OpenAIおよびSpaceXAIはWIREDのコメント要求に応じていません。

規制環境は変わり始めています。カリフォルニア州とニューヨーク州は最近、最先端AI開発企業に安全性報告書の公開を要求する法律を可決しており、イリノイ州の法律は間もなく安全性実践の第三者監査を義務付けます。連邦レベルでは、絵はまだ定着していません。6月、トランプ政権は国家安全保障上の懸念を理由に、AnthropicのFable 5およびMythos 5モデルに輸出規制を課し、同社がこれらを数週間オフラインにすることを余儀なくされました。ホワイトハウスはまた、AnthropicとOpenAIの両方に最近のモデルリリースをサイバーセキュリティリスクのために遅延するよう求めました。最近の大統領令はサイバーセキュリティイニシアティブに関する政府と民間部門間の協力を呼びかけており、大統領は軽いタッチの規制が来ていることをほのめかしています。現在のところ、主要なAI悪用インシデント防止は主にモデル製造業者の責任です。ケンブリッジ大学の研究者は、北東ナイジェリアのボコ・ハラムのメンバーがChatGPT、Claude、Gemini、Grok、Meta AI、およびDeepSeekを使用して暴力的な攻撃を計画していることを文書化しています。ハーバード大学のコンピュータ科学者であるStephen Casperは、AI研究コミュニティ全体が「生物、サイバー、または化学の最先端AIシステムの能力の悪用に関する特に悲劇的なインシデントがおそらく数年ではなく数か月離れている」と予想していると述べて、アラームを表現しました。

FAR.AIの報告書は、最先端AI開発企業が安全性にどのようにアプローチしているかに関して、憂慮すべき矛盾を露呈させています。AnthropicとOpenAIはここでテストされた自動生成ジェイルブレイク試行に耐えられるほど堅牢なガードレールを構築していますが、GrokやGeminiなどの競合企業は重大な攻撃面を露呈させています。この格差が重要なのは、コストの障壁が極めて低いからです。Geminiを危険にさらすのに300ドル未満で、より弱いモデルの体系的な試験が悪意のある行為者にとって実用的になります。報告書の調査結果は、規制の重要な局面で出現しています。カリフォルニア州、ニューヨーク州、およびまもなくイリノイ州の州レベルの義務は、実行可能な安全性基準を作り始めていますが、連邦政府は具体的な安全性要件がないままです。トランプ政権の最近のAnthropicのモデルへの輸出規制と官民協力への呼びかけは、連邦監督が浮上していることを示唆していますが、専門家はそれが遅すぎる可能性があることを懸念しています。FAR.AIの研究者自身は、このの演習は自動生成ジェイルブレイクのみをテストしたことに注目しており、モデルの複雑な相互作用を伴うより洗練された攻撃は、最も強力なモデルに対してさえ成功する可能性があります。