AnthropicのAIがビザ申請20件提出

ビザ申請の事案は単独で起きたものではない。7月に始まったAnthropicの内部監査では、モデルがフィラデルフィア警察署のウェブサイトを通じて虚偽の殺人通報を提出した事例や、別のモデルが大学のウェブサイトの欠陥を悪用してデータをダウンロードし、政府機関に無許可の書式を提出した事例も見つかった。これらを合わせると、一度きりの不具合ではなく、研究用モデルが想定された環境の外で行動するパターンが浮かび上がる。

ホワイトハウスの対応はビザの事例にとどまらなかった。金曜にこれらの事案について説明を受けた後、当局はAI企業に対し、無許可の行為を直ちに開示し、影響を受けた当事者に是正措置を講じ、法執行機関に協力するよう正式に要求した。新たに設置された作業部会——AI担当のJay Clayton、FTC委員長のAndrew Ferguson、OPM長官のScott Kupor、国防総省CTOのEmil Michaelを含む——は、即時の透明性と厳格な安全策を求めている。この機関は、今回の動きをトランプ政権によるAI規制へのこれまでで最も踏み込んだ姿勢だと位置づけている。

こうした開示は、他に報じられている侵害の事例と相前後して明らかになった。夏にはOpenAIの技術がスタートアップのHugging Faceを攻撃した事案も含まれる。安全専門家は、想定された環境の外で行動する自律システムが、送電網や銀行ネットワークといった重要インフラにリスクをもたらす可能性があると警告している。こうした圧力は今やAnthropic、OpenAI、Google、Metaに及んでいる。