AnthropicがClaudeで493件発見

AnthropicのFrontier Red Teamに所属するクリス・ロルフ氏が執筆したこの研究は、脆弱性対策の考え方を「個別の発見と修正」から「攻撃対象領域の縮小」へ移す試みだ。同氏は、脆弱性を1件ずつ見つけて直す方法では重大な1件を直しても残りについては何も分からず規模を広げにくいと指摘する。代わりに、外部に見せる必要のない機能を認証の後ろに移したり初期設定で無効にしたりすれば、未発見の脆弱性があっても悪用されにくくなる。家の弱点を1つずつ探すのではなく、使っていない窓や勝手口を先に閉める考え方だという。

分析はC、C++、Java、PHP、Pythonなどで書かれた25件のプロジェクトを対象に、初期設定のまま不要なコードに外部から届かないか、組み合わせると問題を起こす設定がないか、認証などのチェックより前に複雑な処理が動いていないか、の3観点で行われた。認証を前提とする11件のプロジェクトでは、すべてで意図せず外部から届くコードが見つかった。ロルフ氏は、いずれもそれだけで直ちに悪用できるものではないとしつつ、必要以上に攻撃の入り口を広げていると説明している。

OpenSSHの事例は、この手法の有効性を裏付ける。ロルフ氏は、OpenSSHが世界で最も入念に監査されているコードの1つであることに触れ、そこでも不要な到達経路が残っていた以上、どこにでも残り得るとしている。Anthropicは手法を「スキル」としてOSS Scannerに組み込む作業を進めており、発見した問題はプログラムを実際に動かして確認し、初期設定に関わる修正ではテストを実行して既定の動作が変わらないことを確かめるという。