20万ドル基金でAI安全研究を支援

Lightcone Infrastructureが管理する矯正可能性研究基金は、2026年に最低20万ドルの資金を伴って始動する。この基金はハイブリッド型モデルで運営され、予算のおよそ半分は申請プロセスを通じて授与される従来型助成金（最初の締切は8月23日）を支援し、残りの半分は2026年に完成した高品質の矯正可能性研究を認識する賞金に充てられる。矯正可能性研究の実施に関心のある研究者とチームは、grants@corrigibilityresearch.orgメールアドレスに助成金申請を提出できる。基金の創設者はこの取り組みをAI安全資金における軽視への対応として位置づけた。2009年にAI安全がほぼ確立されていなかった時代からの経験を踏まえ、基金の創設者は近年AI安全への資金と注目がかなり増加したことを認めている。しかし、その増加は特定の領域に集中している。評価（AIの行動テスト）、制御（悪用の制約）、解釈可能性（AIシステムの機能の逆工学化）である。これに対し、AIシステムが根本的に矯正可能で人間の意図と一致していることを保証することを目指す概念的・経験的作業であるアライメント研究は、基礎となる安全問題の解決に中核的であるにもかかわらず、相対的に少ない資金しか受けていない。この基金は、こうした不均衡に対処し、矯正可能性研究が専門的支援に値する優先領域であることを示唆することを意図している。

矯正可能性研究基金は、AI安全分野内における資金ギャップの所在についての戦略的評価を反映している。基金の創設者は、近年のAI安全への関心と資金配分の増加にもかかわらず、その配分が特定の研究領域に大きく偏っていることを指摘している。評価（AIシステムの評価手法）、制御（悪用防止技術）、解釈可能性（AIシステムの内部動作理解）は相当な資源を集めているが、人間の価値観に対するAIシステムの矯正可能性と堅牢なアライメントに関する理論的・実践的作業であるアライメント研究は後れを取っている。この基金は是正措置として位置づけられており、他の安全上の進歩よりも前提となるべき基礎的作業と創設者が考える領域へリソースを投入している。

まだコメントがありません。最初のコメントを投稿しましょう！