矯正可能性AI研究に200万ドル基金が2026年に始動

Lightcone Infrastructureに位置する矯正可能性研究基金は、AI安全保障資金がどのように配分されるかについて、基金管理者が見ている持続的な不均衡に対処するために創設された。本基金は2026年を通じて最低20万ドルの助成金と賞金を授与し、2つのメカニズム間でおよそ均等に分配される：従来型の研究助成金と、その年に既に完了した作業を認識する賞金である。助成金に申請することを希望する研究者は8月23日の期限に直面し、grants@corrigibilityresearch.orgにメールで申請を提出すべきである。

本基金は、AI安全保障の状況についての特定の観察に応じて存在する。基金管理者は、正式な分野としてほぼ存在していなかった2009年からこの領域で働いている。過去10年以上にわたり、資金と研究注目は大幅に増加し、特に近年は急速に拡大している。しかし、この成長は3つの主要領域に集中している：評価（AIシステムの評価とテスト）、制御（AI行動を制約または制限する方法）、解釈可能性（AIシステムがどのように意思決定を行うかを理解する技術）である。アライメント研究（AIシステムの目標と価値が人間の意図と一致することを確保するための広範な取り組み）は、基金管理者の見方では本分野のコア課題を解決するために本質的であるにもかかわらず、相対的に軽視されている。

本基金の具体的な対象である矯正可能性は、AIシステムが人間からの修正を受け入れるための能力と意思を指す。基金管理者は、この能力はアライメントの中心的要素であり、専用の資金配分の注目を値すると考えている。2026年の矯正可能性研究に特に20万ドルを配分する基金を創設することで、本イニシアティブは、この問題で働く研究者がアイデアを実現に移したり、進行中のプロジェクトを完了したりするのを支援することを目指している。基金管理者は、利用可能な資金機会を考慮して、矯正可能性で今すぐ研究を開始することを検討する人々を明確に奨励している。

矯正可能性研究基金は、AI安全保障資金配分における長年のギャップを反映している。基金管理者は、AI安全保障がようやく研究領域として確立された2009年から本分野に携わっている。それ以来、この分野は大幅に成長し、特に近年は急速に拡大しているが、資源配分は特定の部分領域に偏り続けている。評価（AI行動のテスト）、制御（AIシステムの制約）、解釈可能性（AIシステムの動作理解）が資金配分を支配している。一方、基金管理者の評価では、アライメント研究（AIシステムの価値が人間の意図と一致することを確保する作業）こそが、コア問題を解決するための基盤であるにもかかわらず、である。アライメント内のより限定的な焦点であり、矯正可能性は、AIシステムが人間の修正と変更を受け入れるかどうかという特定の能力に対応している。2026年にこの研究領域に特に200万ドルを充てることで、本基金は、基金管理者がアライメント・パズルの軽視されているが本質的な部分と見なすものに向かって注目を向け直そうとしている。

まだコメントがありません。最初のコメントを投稿しましょう！