警察向けAI企業Flock、監視批判に対応 新ルール導入も抜け穴残す

警察向け自動ナンバープレート読取技術大手のFlockが、監視に関する批判と契約キャンセルの増加に対応して、新たな運用ルールの強化を発表しました。同社のシステムはアメリカ全土に12万台のカメラを備え、警察部門がアクセスできる位置情報データベースを形成しています。

問題となったのは警察官による不正利用です。ワシントン・ポスト紙の調査では、警察官が現在または過去の恋愛相手をストーキングするなど、権限外の目的でFlockの技術を使用していた46件のケースが報告されました。こうした濫用に対応するため、Flockは検索前に犯罪事件番号の入力を義務化する方針を発表しました。このシステム自体は昨年から試行的に導入されていましたが、今回これを必須化します。同時に、不審な検索活動を分析して管理者に通知する自動監査システムも必須化されます。ただしACLUの調査によると、警察官は従来の理由入力制度でも「捜査」「調査」など曖昧な言葉で対応していたほか、あるオレゴン州の部門では「hehehe」と20回入力するなど、サフガードを回避していました。Flockは新しい番号検証システムの精度について具体的な情報を示していないため、実際に濫用を防ぎ得るかは不明です。

Flockはまた、データ保有期間を従来の30日から7日への短縮を推奨し、他の警察部門によるデータ検索を「誘拐」など特定の犯罪に限定することも可能にしました。しかし、これも警察官が検索の理由を正確に報告することに依存しており、実効性に疑問が残ります。批判の背景には、より広範なプライバシー懸念があります。ACLUのチャド・マーロー上級政策顧問は、アメリカでは犯罪の疑いがなければ誰かを調査することはできないはずだと述べ、ナンバープレート読取機が令状不要でデータベース検索を可能にすることで、この原則が形骸化していると指摘しています。

Flockの批判は多方面から寄せられています。NPRが2月に調査した結果、過去1年間に少なくとも30都市が契約を打ち切ったと報告されました。活動団体DeFlockはこの数字がさらに多いと主張しています。一部の州や市は自動ナンバープレート読取機そのものを禁止する法律を制定しており、他社はAxonやMotorolaなどの競合企業への乗り換えを始めています。Flockは、同社と契約する5,000機関に比べ、これらのキャンセルは小数だと主張しています。CEOのギャレット・ラングレーはMIT Technology Reviewに対し、顧客喪失の主因は「誤情報」であり、同社が顔認識を行っていない、データを商業的に売却していないといった誤解が広がっていると述べました。他方、新規則は「オプションを提供する」から「責任あるガードレール施行」への姿勢転換を示すものだと説明しています。しかし、ACLUのマーロー上級政策顧問は、同社が市議会に対して繰り返し虚偽の説明をしてきた事実を指摘し、現在の改革は表面的に過ぎず、独立した研究者による検証なしに効果を判断できないと述べています。