研究者がAI整合性訓練への哲学的アプローチを提案

何が起きたか

研究者らが、観点的道徳的実在論と進化的消滅論を認識論的アプローチと組み合わせたメタ倫理的議論を展開し、Anthropicへのフィードバック提出または広範なAI整合性研究者との協議のための公開を検討している。

なぜ重要か

Anthropicは憲法的AI訓練アプローチが時間とともに改訂・改善されることを意図していると述べており、実質的な哲学的貢献はバグレポートより稀である。提示された議論はAI倫理文献の一般的なアプローチ（素朴的道徳的実在論または選好充足帰結主義に傾く傾向）とは異なる立場をとっており、不確実性のある道徳をより一般的でない方法で扱うためにまさに注目を集める可能性が高い。

注目点

単一の提出が訓練決定を変更する確率は低いが、Anthropicのアプローチ改訂への開放性とAI訓練方法論への厳密な哲学的入力の相対的な稀少性を考えると、期待値は見かけより高い可能性がある。