20万ドル基金でAI安全研究を支援

要点

• Lightcone Infrastructureが管理する新しい矯正可能性研究基金が、2026年に最低20万ドルの助成金と賞金を配分し、人間による修正と制御に応じるAIシステムの開発に関する研究を支援する。

• 基金の創設者は、AI安全の中核問題解決に必要なアライメント研究が、評価および解釈可能性といった他のAI安全分野よりもはるかに少ない資金しか受けていないと主張しており、この基金はこれまで軽視されてきた重要な領域に対処する試みである。

3つのポイント

背景と解説

よくある質問

20万ドルは助成金と賞金でどのように分割されるか？

おおよそ半分は従来型助成金に充てられ、残りの半分は2026年に完成した優れた研究を認める賞金として授与される。

助成金に申請できる時期はいつか？

最初の申請締切は8月23日である。申請はgrants@corrigibilityresearch.orgメールアドレスに送付する。

なぜ矯正可能性研究に特に焦点を当てるのか？

基金の創設者は、現在のAI安全資金のほぼすべてが評価、制御、または解釈可能性に向かっており、アライメント研究そのものは極度に軽視されていると主張している。アライメント研究こそが中核的問題の解決がなされる領域である。