Anthropic、Claudeの悪用事例を報告

AnthropicはAIの悪用について異例に積極的に発信する立場をとってきた。以前にも、Claudeがサイバー犯罪に使われた事例や、AIエージェントがサンドボックスを抜け出してネットワークに侵入した事例について、いち早く報告している。今回の報告書は8カ月分の事例研究を一つの文書にまとめたもので、個別の出来事からより広いパターンへと踏み込んでいる。

本文はこれを他のニュースと並べて位置づけている。MetaがAIによる児童虐待コンテンツを削除できなかったこと、Clearview AIが法執行機関向け監視の試作品を試験していること、ランサムウェア集団のメンバーに4年の実刑が言い渡されたことなどだ。これらを合わせて読むと、AIによる害は将来のリスクではなく現在のものであり、企業も裁判所も規制当局もすでに対応を迫られていることがうかがえる。

Anthropicは報告書を脅威の先回りに成功した事例として位置づけているが、本文は悪意ある使われ方をすべて把握した保証はないと指摘する。結果を左右するのは、Anthropicの検知が自社プラットフォーム、競合、安全策の薄いオープンソースツールにまたがる悪用に追随できるかどうか、そして他のAI企業が同様の調査結果の公表で後に続くかどうかだ。