ResolutionがAgent Foundations研究チームを発足。
思考理解とAI推論向上の理論構築を目指す。
MIRI出身のAI安全研究者らが参加。
何が起きたか
AI研究機関Resolutionが新たなAgent Foundationsチームの設置を発表。初期メンバーはJeremy Gillen、Abram Demski、Sam Eisenstat、Scott Garrabrant、Kaarel Hänni。
なぜ重要か
チームは思考の理解に向けた基礎理論を追究し、AIの挙動に関する精密な推論の欠如に対処する。超知能システムが人間の主体性を高め、リスクをもたらさないよう構築する前に必要な研究と位置づけられる。国内のAI開発企業は、AIの挙動を精密に推論する手法が確立されるまで、超知能システムの構築に慎重になる可能性がある。
注目点
Resolutionは近く経験豊富な研究者を追加採用し、その後インターンや若手研究者も募ってチームを拡大する計画。
Resolutionの新チームは、MIRIのAgent Foundationsチームが切り開いた研究系譜を引き継ぎ、AIの挙動の理論的基盤に焦点を当てる。動機は、大半の工学分野が未知のシナリオを推論できる一方、AIにはその能力が欠けているという認識だ。チームは、学習や自己改変後の高度なAIの挙動について精密な問いを可能にする理論を構築し、そのギャップを埋めようとしている。採用計画からは、この研究領域を大きく拡大する意図がうかがえる。チームの拡大に伴い、AIの能力向上に伴い重要性を増すとみられる、人間の目標に沿ったAIシステム設計の基盤を提供する可能性がある。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
MetaがMuse Spark 1.3を公開した
開発者がC++製機械学習ライブラリ「Deepity」を構築し、逆伝播に代わる予測符号化ネットワーク（PCN）を検証した
Meta Platforms Inc.がMuse Spark 1.3を公開
Google脅威インテリジェンスグループの2026年5月の報告で、AIがサイバー攻撃のほぼ全段階で使われていることが判明
詐欺事件に詳しい元警視庁捜査官は、会社役員を装ったAIを使った音声詐欺が横行し、被害額が45億円に達していると警告する
Metaは9月2日、Muse Spark 1.3を発表し、同日からMuse CodeとMeta Model APIを通じて開発者向けに提供を開始した
