AI監視リスト、警備は記録のみで抑止せず

Flockの新機能はナンバープレート監視を超え、警察が複数カメラを通じて文章による人物記述で検索できるようにした。WIREDが調べたコードでは、AIモデルが人種、宗教、政治的表現を含む8つの機密カテゴリに照らして記述をスコアリングする。だが実際にブロックではなく警告となるのは、政治的・社会的・文化的表現のみで、これらはトム・ボウマン氏が指摘するように憲法修正第1条で「最も保護される領域」の一つだ。

この設計は判断を警察官に委ねている。Flockは結果が不正確である可能性を警告しつつ、「不正確さのリスク」は利用者側に負わせる。専門家は、この規模の自動スクリーニングで正確なものはなく、外部から誤差を測定する手段もないと主張する。Flockが8月に発表した変更—保持期間の短縮、事件番号の必須化、監査—は監視強化を狙うが、悪用を記録するだけで防止はしない。

過去の悪用は広く記録されている：Flock関連46件のうち半数超が交際相手や元交際相手の追跡に関わるものだ。新しいモデレーションシステムは一定の抑止効果を持つかもしれないが、ケイト・ルアン氏が指摘するように、警告が出ても警察官がクリックして先へ進めば結果は得られる。年末に予定される必須コントロールがこの穴を塞げるかどうかは、同社はまだ明らかにしていない。