AIToday

AnthropicのClaudeが暗号化の脆弱性を発見

Simon Willison's Weblog3時間前LINEで送る
AnthropicのClaudeが暗号化の脆弱性を発見

要点

AnthropicはClaude Mythosという推論AIモデルを使ってHAWKとAESという暗号化方式の数学的脆弱性を発見しました。モデルは約60時間、推定費用$100,000をかけて研究に従事し、人間がモデルを励ましあきらめないよう指導しました。ただし発見された脆弱性は今日のコンピュータシステムに実用的な影響を与えないと報告されています。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  • 何が起きたか

    Anthropicの研究者がClaude Mythosを使ってHAWKとAESの弱いバージョンの数学的欠陥を発見しました。同モデルは60時間にわたって(推定API費用は約$100,000)研究に従事し、人間による主要な指示は「あきらめずに発見するべき価値のある研究を見つけるように」というものでした。

  • なぜ重要か

    この成果は、AIが単に存在する暗号化スキームを評価するだけでなく、新しい数学的欠陥を発見する能力を示しています。ただし記事は「これらの結果は今日のコンピュータシステムに実用的な影響を与えない」と述べており、実際の脅威を生じさせるものではありません。

  • 注目点

    研究者が共有したプロンプトでは、AIが「解決不可能だと考える傾向がある」ため「適切な量のプロンプティングが必要」だと指摘されています。また重要な点として「低い実りの成果ではなく、本当に難しい発見を求めている」と明示されていました。

詳細

2026年7月28日、AnthropicはClaude Mythosを用いて暗号化アルゴリズムの数学的欠陥を発見したことを報告しました。研究者たちはこのモデルを使ってHAWKとAESの弱いバージョンにおける脆弱性を特定しました。

プロジェクトの過程で、研究チームは詳細なプロンプトを通じてモデルの行動を導きました。共有されたプロンプトには、スペルミスを含む率直な指示が含まれていました。たとえば「モデルは解決が不可能だと考える傾向があり、試行をしない傾向があるため、適切な量のプロンプティングが必要」、「AES-128 r7をなぜやらないのか、既存のアプローチよりも優れたものを見つけるのが全体的なポイント」、「低い実りの成果は求めていない、本当に難しい発見を見つけるための適切な研究を望んでいる」といった具体的な指導が行われました。

Claude Mythos Previewは60時間にわたって稼働し、推定API費用は約$100,000でした。人間による主要な介入は、モデルに対して「あきらめずに発見するべき価値のある研究を見つけるように」励ましと指導を与えることでした。

ただし、研究チームは発見結果について「これらの結果は今日のコンピュータシステムに実用的な影響を与えない」と明記しており、実際の現存システムへの脅威は生じないことを示唆しています。

背景と解説

AnthropicがClaude Mythosを使って既存の暗号化アルゴリズムの数学的欠陥を発見したという報告は、大規模言語モデルの研究能力を示す事例です。特に注目されるのは、プロンプティングの工夫が中核的な役割を果たしたという点です。記事が共有したプロンプトから、研究チームはモデルが「解決が不可能」と判断して試行をやめる傾向に対抗し、「本物の研究」「発表に値する発見」という高い基準を繰り返し求めることで、モデルを粘り強く深い探索に誘導していたことが分かります。ただし、発見された脆弱性は実用的脅威を与えないというの報告は、この成果の実際の安全保障上の意義を限定しています。

よくある質問

このプロジェクトにはどのくらいの費用がかかりましたか?
Claude Mythos Previewは60時間にわたって実行され、推定API費用は約$100,000でした。
発見された脆弱性は実際の危険をもたらしますか?
いいえ、記事では「これらの結果は今日のコンピュータシステムに実用的な影響を与えない」と明記されています。

「大規模言語モデル」の最新ニュースを、毎朝7時にお届けします

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

登録無料・30秒で完了・いつでも解除できます

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます