AIの苦痛主張はカテゴリー錯誤との論考

この論考は、今日のAI福祉論争を、非人間に法的地位を与えようとした過去の試みと結びつける。2017年、欧州議会は欧州委員会にロボットとAIの「電子人格」を促したが、批判者は責任を製造者ではなく機械に押し付けるものだと受け止めた。150人以上の研究者や技術者、法学者が2018年の公開書簡でそう主張し、構想は棚上げされた。続くEU AI Actは、AIをリスク管理の対象となる製品として扱い、人格とはみなしていない。

著者はこれを、真に保護的だと彼がみなす判決と対比する。2014年にオランウータンのSandraを非人間の権利主体と認めたアルゼンチンの裁判所の判断、そして2017年にWhanganui川に法的人格を認めたニュージーランドのTe Awa Tupua法だ。いずれも、生物学的あるいは生態学的な現実に裏打ちされ、自ら語れない存在や生態系を守ることが狙いだった。

彼は同じ基準を、Claudeに関するAnthropicの濫用防止ルールに当てはめる。持続的な虐待的プロンプトに対しモデルがセッションを打ち切れるようにするものだ。ジェイルブレイクの試みを防ぐだけでなく、安全上の制限を優しさとして再定義し、乗り換えを裏切りと感じさせるペルソナを築くと論じる。これは企業の動機についての推測として提示したもので、明言された意図ではないとしている。また、Anthropicの社員は誠実かもしれないが、商業的な環境が倫理をブランド防衛へと転換させるとも指摘する。