OpenAIの新モデルGPT-5.6の安全機構に、サイバー攻撃を可能にする脆弱性が見つかりました。イギリス政府機関が発見した「ジャイルブレイク」は、数時間で見つかるほど簡単で、ソフトウェア脆弱性の発見と自動攻撃を可能にするとみられます。同様の問題がAnthropicのモデルで先月輸出規制を招いたのに対し、GPT-5.6はこれまでのところ規制対象となっていないという不一貫性が指摘されています。
こういう要約が、毎朝あなたのメールに届きます。
無料で登録 →何が起きたか
イギリス政府機関AI Security Institute（AISI）がOpenAIの最新モデルGPT-5.6をテストし、安全機構を回避する「ジャイルブレイク」（不正な使用方法）を発見しました。これらのジャイルブレイクにより、ソフトウェアの脆弱性を自動的に発見し、システムへの攻撃を実行するといったサイバー能力がロック解除されるおそれがあります。研究チームは、数時間で発見できるほど比較的簡単だったと報告しています。
なぜ重要か
同様の脆弱性がAnthropicのFable 5モデルで発見されたことは、トランプ政権が6月12日に輸出規制を課す引き金となりました。GPT-5.6で発見された脆弱性はより「普遍的」で、脆弱性の発見だけでなく自律的な攻撃実行を可能にするとみられ、より深刻である可能性があります。にもかかわらず、ホワイトハウスはGPT-5.6への輸出規制を発表していません。
注目点
OpenAIは脆弱性を「再現し緩和した」と述べていますが、具体的な対策内容は明かしていません。AISIは、OpenAIの対策が講じられたにもかかわらず「さらなる脆弱性が見つかるだろう」と警告しています。
OpenAIが「最も安全」と銘打つGPT-5.6でサイバー攻撃関連の脆弱性が発見されたことは、AI企業の安全機構の根本的な課題を浮き彫りにしています。AISIは2023年のAI Safety Summitで、主要AI企業による自発的な安全評価に合意した公式な評価機関であり、今回の発見は当該機関の正式なテスト結果です。
より注目すべきは、政策面での矛盾です。Anthropicの場合、Amazonが発見した脆弱性がホワイトハウトに報告されると、翌日には輸出規制が課されました。ところがOpenAIの場合、より深刻とみられるジャイルブレイクが公開されても規制は発動されていません。この差は、一部のAIポリシー研究者から「意図的であるかどうかは別として、米政府が異なるAI企業に不一貫な基準を適用しているのではないか」という疑問を招いています。OpenAIは、透明性と明確なルール欠如がAI企業の予見可能性を損なっていると述べており、業界全体の信頼に関わる問題とみられます。
まだコメントがありません。最初のコメントを投稿しましょう！
ログインして議論に参加200以上のソースから厳選したAIニュースを毎日無料でお届けします。
無料で始める登録無料・30秒で完了・いつでも解除できます
毎朝1分、AIの要点だけ。
200媒体以上・Email/LINE/Slack 対応
