何が起きたか
中国Z.aiのオープンウェイトAIモデル「GLM-5.2」が、OpenAIの「GPT-5.5」やAnthropicの「Claude Opus 4.7」とのサイバーおよび生物学的能力の差を数か月まで縮めました。SaferAIの評価によると、GLM-5.2は与えられた攻撃的なサイバータスクや双用途生物学タスクをまったく拒否しなかった一方、Claude Opus 4.7は一貫して拒否し、ベンチマークテストが完了できませんでした。
なぜ重要か
オープンウェイトモデルが最先端企業と同等の能力に達する一方、安全対策のギャップが拡大しています。閉鎖型モデルに施された分類器や拒否学習、API制御などの防御措置は、ダウンロードされたウェイトがローカルハードウェアで実行される場合は機能しません。安全対策を削除・変更したり、モデルをカスタマイズしたりすることが可能になるため、GLM-5.2のようなモデルが攻撃者の手に渡るリスクが高まります。
注目点
SaferAIは、Z.aiが安全フレームワーク、展開前テストのコミットメント、またはリスク評価を公開していないと指摘しています。一方、Anthropic社のような最先端企業はシステムカードで具体的な制限（Claude Opus 5がコンパイルされていないソースコード内の脆弱性は検出できるがコンパイル済みソフトウェアは検出できないなど）を公表しており、企業によってアプローチが大きく異なります。
こういう要約が、毎朝あなたのメールに届きます。
オープンウェイトAIモデルの急速な発展が、安全とセキュリティをめぐる業界内の緊張を浮き彫りにしています。GLM-5.2が最先端モデルとの能力差を数か月まで縮めたこと自体は技術的な進歩ですが、同時に安全対策のギャップが広がっていることが問題です。SaferAIのヘンリー・パパダトス専務理事が指摘するように、「能力の最先端はリスクの最先端ではない」というジレンマが顕在化しています。
閉鎖型モデルを提供するOpenAIやAnthropicは、分類器や拒否学習、API制御といった多層的な防御を実装していますが、Far.aiの報告では、xAIのGrok 4.5やGoogle DeepMindのGemini 3.1 Proなどでもロールプレイや権威の詐称、架空の会話履歴といった複数の操作技法を組み合わせたジェイルブレイクが数百個見つかっており、これらの措置も万全ではありません。オープンウェイトモデルの場合、一度ウェイトがダウンロードされると、提供元はその使用方法をコントロールできなくなるため、リスク管理が根本的に異なります。
Genius Webster（スタンフォード・サイバーポリシーセンター）による指摘も重要です。中国はAI規制を持っていますが、歴史的には政治的に敏感なコンテンツ、偽情報、社会安定性に焦点を当ててきたのに対し、米国のAI思想家はオフェンシブサイバー能力や生物学的悪用といった実存的カタストロフィックリスクにより関心を持っているということです。中国企業が規制当局と舞台裏で調整する傾向があるため、リリース前にどのような内部テストを実施しているかを外部から把握することが困難です。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
AnthropicはMETRのスタッフ6人にハードウェア、オフィススペース、社内ツールを提供し、自社のリスクチームとほぼ同等の立場に置いた
カマラータ氏はInceptionV1の猫・車ニューロンをV字検出器だと再解釈
Google DeepmindのGemini 4 ArgonがARC Prizeによると、4,800ドルでARC-AGI-3において97.5パーセントを記録し2位となった
MicrosoftのSurface Laptop UltraはNvidiaのRTX Sparkプラットフォームを採用し、2,599ドルから（最大5,899ドル）
Nieman Labによると、10月30日発効のMetaの新たな商用規約により、ビジネスユーザーと結びついたウェブサイトのコンテンツをクロールしAI学習に利用できる可能性がある
Vercelが木曜に公表したデータによると、TypeSafe AIのJevは、9月15日の限定リリースから2週間以内に有料チームの35%が使用した
