Frances Haugen、ZuckerbergのAIは「火遊び」と警告

Haugen氏が2021年に数万ページの内部文書を持ってFacebookを去った決断は、Wall Street Journalの「The Facebook Files」の基礎となった。新しい映画「The Social Reckoning」はその出来事をドラマ化している。同氏の告発はソーシャルメディア企業に対する一連の訴訟を後押しし、Metaが有害コンテンツをどうモデレーションするかがその中心だった。内部文書の一部は、Facebookがヘイトスピーチのわずか3%から5%しか対応していなかったことを示唆していた。その後Metaは、自動モデレーションを重大度の高い違反にシフトし、一部の第三者のファクトチェックをCommunity Notesに置き換え、外部ベンダーや人的請負業者への依存を減らすと述べている。Haugen氏は、システムは最後に浄化するのではなく設計段階から安全であるべきだと主張し、より良いモデルだけでは問題は解決しないという懐疑的な見方も示している。高度なAIでも有害コンテンツの10%から20%しか検出できないと同氏は予測する。法律で義務づけられた監査への支持は、Dario Amodei氏が提案した、従業員のような継続的アクセスを持つ第三者評価者の案と呼応しており、OpenAIのCEOであるSam Altman氏も自社が採用すると述べている。