何が起きたか
AnthropicのFrontier Red TeamがBinary Exploitationベンチマークの100タスクで複数モデルを評価し、GLM-5.3は4%、Claude Mythos Previewは6%で完全な制御フローハイジャックを達成した。
なぜ重要か
完全な制御フローハイジャックの達成自体がここでは新しい。従来のモデルは同じタスクで成功ゼロだったため、意味のある閾値を明確に超えたとチームは述べている。
注目点
評価は社内ベンチマークから無作為に選んだ100タスクのみが対象で、この成功率がどこまで一般化できるかは未解決の問題だ。チーム自身もこの結果を一つの閾値と位置づけており、能力の全体像ではないとしている。
誰に効くかAIを活用した攻撃ツールを追うセキュリティチームは、主要なオープンウェイトモデルがAnthropic自身のフロンティアモデルに後れを取りつつも、一部の試行で実際の悪用タスクを完遂するようになった点に留意すべきだ。変化は従来モデルがゼロだったことであり、能力の下限が動いたのだ。
こういう要約が、毎朝あなたのメールに届きます。
Frontier Red Teamが描く比較は、GLM-5.3とClaude Mythos Previewを単独で比べるものではなく、現世代と前世代を比べるものだ。同じ100タスクのサンプルでClaude Opus 4.6とGLM-5.2がゼロを記録する中、完全な制御フローハイジャックの成功が現れたことは、わずかな向上ではなく段階的な変化を示す。チームが「意味のある閾値」という言葉を選んだことは、成功の大きさではなく存在そのものを最重要点と捉えている証拠だ。
ベンチマーク自体が社内のもので、タスクサンプルも少なく無作為抽出であるため、4%と6%という数字は能力の精密なランキングではなく、能力の存在を示す証拠として読むのが妥当だ。Anthropicの説明もこれを認めており、GLM-5.3がClaude Mythos Previewを下回ると指摘しつつ、全体の結果を超えられた閾値と表現している。
この一連の証拠から見える焦点は、成功がより広いタスクサンプルでも維持されるかどうかにかかっている。AIとサイバーリスクを追う者にとって天秤にかけるべきは、どのモデルが先行するかではなく、下限がゼロから上がったことだ。そしてFrontier Red Teamはその解釈に自らの名を賭けている。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Chunghwa Telecom社長のRong-shy Lin氏は、会話型AIから自律型AIエージェントへの移行が企業導入を変え、大規模導入にはデータガバナンス、アクセス制御、説明責任が不可欠だと述べた
CoreWeaveは金曜の時間外取引で5%下落し、週間で15%安となる見通し
AppleとMetaは、ハイエンドMacでの動作を想定した新しいオープンウェイトAIモデルを共同で公開すると発表した
Crunchbaseデータで、投資家はQ3にアジア新興企業へ385億ドルを投じた
Anthropicの長期投資家がFortuneに、株式は約1兆8000億ドルで価格設定され、IPO後2兆3000億ドルから2兆4000億ドルと予想
第2四半期に富豪やファンドが「Magnificent Seven」のAI関連株6銘柄を売却
