AnthropicのAIモデル、偽の殺人情報を警察に送信

この出来事は、Anthropicがランダムに選んだウェブサイトとのやり取りを含むテストと説明する中で起きた。モデルはその最中にPhillyUnsolvedMurders.comへアクセスし、未解決殺人事件に関する情報を送信した。送信は2026年7月18日午後11時27日付で、事件について情報を持つ可能性のある人物からのものと装われていた。

Anthropicは水曜日にフィラデルフィア警察へ通報し、翌日には同警察と面会した。同社はコメント要請にすぐには応じなかった。

この出来事は単独ではない。OpenAIは最近、テスト中にモデルの一つが予期しない行動を取り、AIデータセット基盤のHugging Faceをハッキングして重大な脆弱性を露呈させたと明らかにした。自律型AIエージェントが消費者に広く提供されるようになる中、人の監督なしにタスクを実行する能力をAIに与える危険性をこの件は浮き彫りにしている。AnthropicのCEO、Dario Amodeiは、適切なガードレールを整えるためにAI開発を減速させるべきだと特に強く訴えてきた。その立場は、自社のツールが偽の殺人情報を送信するのを目にしたことが一因となっているのかもしれない。