カリフォルニア州のAI透明化法、自己報告制度の欠陥で機能せず

カリフォルニア州は Assembly Bill 302という透明化法を3年前に成立させました。この法律は州技術部門に対して「すべての州機関が提案または使用している高リスク自動化決定システムの包括的な棚卸し」を実施し、年次報告書を公表することを義務付けていました。しかし実運用では大きなギャップが生じました。

2025年の初回報告書では、州技術部門は高リスクシステムが存在しないと結論づけました。これに対して公開請求で取得したデータは極めて不十分で、「ADS使用の有無」と「いいえ」だけが記載された単一のスプレッドシートに過ぎず、追加の技術調査の痕跡もありませんでした。ところが2026年になって、州技術部門が複数の機関に聞き取り調査を行うと、少なくとも6つの自動化システムが使用されていることが判明しました。

具体的には Uniformity Assessment System という身体障害者向けのホームサービスを削減するために使用されるシステムや、Medi-Cal受給者の「リスク」と「サービス未利用」を予測するリスク層別化モデル（Risk Segmentation, Stratification, and Tier model）が報告されずに運用されていました。これらのシステムは生活保護による食料支援の申請許可、住宅支援への適格性判定、医療アクセスなど生死に関わる政府決定を自動化しており、個人の生活に極めて重大な影響を及ぼします。

この問題の根本原因は法律の設計にあります。AB 302 は「高リスク」を「人間の裁量的決定を補助または置き換え、住宅や教育、雇用、信用、医療、刑事司法への適格性に実質的な影響を及ぼす法的またはそれに等しい重大な影響を持つ決定」と定義していますが、この定義は曖昧です。さらに重大なのは、法律が州機関の自己報告に完全に依存し、報告内容の検証メカニズムも報告義務違反への罰則もないという点です。州技術部門には「高リスク」に該当するかどうかの最終判断権がなく、各州機関がツールを自ら定義する方式に依存しているため、機関が意図的または過失で報告を避けることを防ぐ手段がありません。

専門家は、この透明化法が実質的な規制機能を果たしていないだけでなく、より根深い問題を内包していると指摘しています。法律が自動化システムの使用を容認し、それを監視する高コストの官僚機構を構築することで、むしろ自動化をビジネスとしての通常業務として常態化・正当化してしまう危険があるということです。ニューヨーク市警察の監視技術規制法やコミュニティ監視法など、他地域の類似の透明化施策も同じパターンで失敗しており、警察が法的抜け穴を利用して技術の説明を曖昧にするなどして実質的な監督を回避しています。

透明化法を通じた技術規制という手法は、制度設計段階で根本的な欠陥を抱えていました。Assembly Bill 302が施行されて以来、州の技術部門は2025年の最初の報告では高リスクシステムの存在を完全に見落としていました。翌年になって複数のシステムが明らかになったのは、法律に検証メカニズムが組み込まれていないことを示しています。さらに深刻な問題として、この透明化法自体が自動化システムの使用を容認するフレームワークとなっており、州機関による自動化をむしろ常態化・正当化してしまう可能性があります。ニューヨーク市警察の監視技術規制など、他地域の同様の取り組みも同じ落とし穴に陥っており、透明化のみでは実質的な保護にならないという事例が積み重なっています。