矯正可能性AI研究に200万ドル基金が2026年に始動

矯正可能性研究基金は、AI安全保障資金配分における長年のギャップを反映している。基金管理者は、AI安全保障がようやく研究領域として確立された2009年から本分野に携わっている。それ以来、この分野は大幅に成長し、特に近年は急速に拡大しているが、資源配分は特定の部分領域に偏り続けている。評価（AI行動のテスト）、制御（AIシステムの制約）、解釈可能性（AIシステムの動作理解）が資金配分を支配している。一方、基金管理者の評価では、アライメント研究（AIシステムの価値が人間の意図と一致することを確保する作業）こそが、コア問題を解決するための基盤であるにもかかわらず、である。アライメント内のより限定的な焦点であり、矯正可能性は、AIシステムが人間の修正と変更を受け入れるかどうかという特定の能力に対応している。2026年にこの研究領域に特に200万ドルを充てることで、本基金は、基金管理者がアライメント・パズルの軽視されているが本質的な部分と見なすものに向かって注目を向け直そうとしている。