AIToday
AI安全性・アラインメントLessWrong AI掲載日時: 2026年9月4日 13:011分で読める

可修正性基金運営者が助成プロセスを説明

LINEで送る
可修正性基金運営者が助成プロセスを説明

要点

  • 新基金の運営者が可修正性助成の審査方法を説明。

  • $50kから$150kの拠出を計画。

  • 資金は公共の利益に限定。

3つのポイント

  1. 何が起きたか

    新設の可修正性研究基金を一人で運営する人物が、今回の助成で$50kから$150kを disbursement する目的で、助成方法と経験をまとめた。

  2. なぜ重要か

    すべての資金は広範な公共の利益に充てられる必要があり、研究者の時間への対価は含まれるが、学費、営利企業、政治ロビー活動への資金提供は除外される。運営者は領域の専門知識と慈善的小口助成を組み合わせている。

  3. 注目点

    助成受領者の発表は別の投稿に分かれているため、結果に関心のある読者はそちらを参照する必要がある。

この記事についてAIに質問する →

背景と解説

可修正性研究基金は新しい取り組みであり、その唯一の運営者が初めて助成アプローチを公開している。運営者は整合性研究の領域専門家であり、提案の評価において強みを持つ。基金の制約として、すべての資金が広範な公共の利益に servir なければならず、個人の教育や商業ベンチャーは対象外となる。この投稿は方法論に焦点を当てており、結果ではなく、実際の受領者は別途発表される。運営者はプロセスの透明性を通じて、可修正性研究へのさらなる取り組みを促したいと考えている。

よくある質問

今回の助成額の範囲は?
運営者は今回$50kから$150kの disbursement を目指している。
資金提供できないプロジェクトの種類は?
学費、営利企業、政治ロビー活動には資金を提供できない。広範な公共の利益に充てる必要がある。
LessWrong AI元記事を読む
LINEで送る

「AI安全性・アラインメント」の最新ニュースを、毎朝7時にお届けします

たとえば、いま届くならこの3本です

  • インフォシスとクラウドストライクがAI発見の脆弱性で提携SiliconANGLE AI · 2時間前
  • AIラベル誤表示、実写写真に再びThe Verge AI · 2時間前
  • オープンAI社長、アストラと整合性を語るStratechery (Ben Thompson) · 5時間前

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

登録無料・30秒で完了・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。

関連記事

インフォシスとクラウドストライクがAI発見の脆弱性で提携

クラウドストライクの「プロジェクト・クイルワークス」創設パートナーであるインフォシスが、同社のAIセキュリティ推進に企業コンテキストを持ち込む

NEWSiliconANGLE AI2時間前

AIラベル誤表示、実写写真に再び

Instagramの「AIコンテンツ」ラベルが、Canvaの背景除去などで編集した画像や、iPhoneで撮影し軽く編集した写真に誤って表示されているとの報告が相次ぐ

NEWThe Verge AI2時間前

オープンAI社長、アストラと整合性を語る

オープンAIの社長兼共同創業者であるグレッグ・ブロックマン氏が、ストラテキリーのインタビューに応じた

NEWStratechery (Ben Thompson)5時間前

カーツワイル対ケイパー、チューリングテスト賭け2万ドル

本稿は、レイ・カーツワイルとミッチ・ケイパーの間で交わされた、2002年から2029年までの27年にわたる賭けを概説する

NEWHacker News5時間前

RIZAP社員が顧客情報を個人AIに誤入力

RIZAPは9月3日、国の特定保健指導業務のデータを扱う際、社員が誤って顧客情報を個人的に利用する外部生成AIサービスへアップロードしたと発表した

ITmedia AI+8時間前

LLM繰り返し回数の新プロトコルを検証

新プレプリントの著者でRankfor.AI創業者が、一般化可能性理論を使いLLMクエリの繰り返し回数を推定する信頼性プロトコルを検証

r/MachineLearning8時間前
次の記事へOpenAI、GPT-6 Astra投入 3指標で満点