研究者がAI一時停止の代替案を提案

LessWrong上の研究者がAIガバナンスにおける2つの既存の枠組みの明確な代替案として「長期的自己修正」という概念を導入した。AI一時停止とLong Reflectionである。著者は各アプローチの具体的な問題を特定することから始める。AI一時停止は政策案として直感的であるが、重要な質問への答えが欠けている。いつまで一時停止するのか、どのような目的で一時停止するのか。このフレーミングは、現在の開発の一時停止により人間はその後より安全なAIを構築できるようになると仮定しているが、著者は、これが根本的な問題を見落としていると主張する。人間自身が現在、強力なAIシステムの構築者、監督者、あるいは価値観調整の対象として十分に安全ではないということである。一方Long Reflectionは異なる仮定を伴っている。主な問題は人間の熟慮の不足であり、人間がより多くの時間をかけて思考する、あるいは高度なAIが人間がより効果的に思考するのを支援するために構築された場合、強力な技術開発への道筋は明らかになるだろうというものである。著者はこれも否定し、反省は潜在的に価値があるが、根本的な問題には対処しないと論じている。代わりに著者は、人間が極めて強力な技術と安全に関わるには複数の、特定されていない欠陥を持つには過度に不完全であり、人間の長期的自己修正のプロセスが実際に必要であると提案している。記事は不完全なままで、このプロセスが何を含むかを記述し始める途中で文が途切れている。

この記事はAIガバナンス言説における2つの著名な枠組みに対する批判を示している。AI一時停止は、著者の議論によれば、一時停止がいつ終わるべきか、あるいはどのような具体的な目標が再開を正当化するかを明示しておらず、一時停止が根本的な安全性問題をいかに実際に解決するのかが不明確なままである。一方Long Reflectionは、ボトルネックが人間の認識能力にあると仮定している。つまり、より多くの時間をかけて思考する、または人間の思考を増幅させるAIの支援を得ることで、人類は強力なAIを安全に操舵できるようになるというものである。著者は両方のフレーミングを否定し、根本的な問題は人間の本質にあると提案している。つまり、人間は極めて強力な技術の信頼できる受託者、構築者、あるいは価値観調整の対象ではない。これは拡張されたプロセスだけでは解決できない本質的な欠陥があるからである。このリフレーミングは、安全なAI開発への道筋は必ず人間の制度、価値観、あるいは能力の変革を最初に伴わなければならないことを示唆している。著者はこのプロセスを長期的自己修正と呼んでいるが、完全なメカニズムや要件は提供されたテキストの抜粋では明記されていない。

まだコメントがありません。最初のコメントを投稿しましょう！