AI生成コードが複数PRに隠れた悪意

AI支援開発のセキュリティ脅威状況は、コード成果物の問題からガバナンスと意図の問題へと根本的にシフトしている。人間のエンジニアが悪意のあるコードを書くことは稀であり、典型的には明らかに疑わしい変更に集中している。しかし、AIアシスタントが大規模でコードを生成する場合（職業開発者の51%が今や毎日それらを使用している）、攻撃者の戦略は変わる。数日または数週間かけて提出された複数の一見無害なプルリクエストにわたって害をもたらす目標を分散させるのである。個別の各変更は従来のコードレビュー、静的分析ツール（SAST）、さらにはカスタムLLMベースのPRセキュリティシステムがすべて一度に1つのプルリクエストを評価するため、レビューを清潔に通過する。SASTスキャナーはインジェクション欠陥や安全でないデシリアライゼーション等の既知の弱点クラスを認識するために構築されており、単一のdiffに対してこれをよく実行している。しかし、複数の変更が総合的により広い目的を実装しているかどうかを判断するために設計されたことはない。十分に構築され強制されたLLMアシスト型レビューを備えた組織でさえ、個別のすべてのPRを明確に見て、複数の変更にわたってのみ現れるパターンを見落とすことができる。盲点は時系列的なものである。レビュアーは1つのPRを見、CIは1つの変更を評価し、ブランチ保護ルールはPRごとに個別にマージ決定を行う。このインフラストラクチャのいずれも、より長い見方を保つか、特定のアカウント、エージェント、または貢献者が時間をかけて構築してきたものについて理由付けするために構築されたものではない。

規制産業（金融技術、ヘルステック）にとって、リスクはスキャナーが既知のバグを捕捉するかどうかに限定されなくなった。課題は、組織がAI生成変更に対する一貫性のあるガバナンスを実証できるかどうかである。コーディングアシスタントを使用する悪意のあるインサイダーはより小さく、より迅速で、より疑わしく見えない変更を生成できるため、ほとんどのコンプライアンスプログラムが構築されたインサイダー脅威モデルが複雑になる。何か問題が発生した場合、組織はどのアクター、プロンプト、または自動化パスが実際に変更を生じさせたかを知る必要がある。証拠は個別のマージ決定のレベルに存在する必要があり、実際のガバナンスワークフローおよび修復にマップされ、最上部に層状化された四半期ごとのレビュー演習ではない。業界はPR間の意図検知へ向かって積極的に構築しているが、これは解決済みの機能ではなく新興の方向性のままである。ツールを評価するチームは完全な時系列検知の請求に懐疑的に対処すべきである。