Anthropicの目論見書、リスクは投資家向けに偏る

論評は、現代の目論見書が鉄道時代の熱狂への修正として発展し、投資家に何が悪く転びうるかを伝えるために作られたと指摘する。Anthropicの申請はその役割を異例の熱意で果たし、破滅的リスク、雇用喪失、暴走エージェント、業界の権力集中をAnthropic自身への潜在的コストとして列挙し、AIリスクに関する自社の公表文が「訴訟で我々に対して用いられうる」とまで警告している。

著者はOxfamとの研究協力で、調査、訴訟、メディア、技術報告から集めた103件の「AIリスクと救済の登録簿」をまとめた。この登録簿は、多くの場合同意も見返りもなく第三者がすでに負ったコストを追跡する。論評は、不正アルゴリズムに誤って警告されたオランダ人、アルゴリズムへの過度な依存で技能が衰えたポーランドの医師、有害コンテンツにラベルを付けたケニアのコンテンツモデレーターなどの例を挙げる。

記事はまた、和解のパターンにも触れる。欠陥のある顔認証照合の後にデトロイト市がRobert Williamsに支払った30万ドル、SafeRentの227万ドルの和解、海賊版書籍をめぐるAnthropic自身の15億ドルの和解などで、記録された103件の被害の約5件に4件は新しいAI法ではなく既存法で対処されたと指摘する。さらに、今年30州がAI関連法115本を制定し、約58パーセント増えたこと、8州の司法長官がOpenAIを提訴し、FTCが最先端ラボの安全上の怠慢を調査し、EUがAI法の執行を開始し、金融安定理事会が銀行にAIガバナンスの強化を促していることにも言及する。