AIToday
大規模言語モデルAI安全性・アラインメントAlignment Forum掲載日時: 2026年7月25日 10:01

研究者が「長期的自己改善」をAI一時停止の代替案に提案

LINEで送る
研究者が「長期的自己改善」をAI一時停止の代替案に提案

Alignment Forumの研究者が、「長期的自己改善」を、強力な人工知能システムの開発を管理するための既存2つの枠組み——「AI一時停止」と「長期的熟考」——の概念的代替案として提案した。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

Alignment Forum元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OpenAI、4監査機関に未公開モデルなど内部システムを直接公開

OpenAIはApollo Research、METR、Transluce、Goodfireが同社オフィスで常駐し、未公開モデル、ソースコード、学習データ、監視システムへのアクセスと開発者との非公開協議を行うと発表した

NEWTHE DECODER1時間前

AI侵入ツールArtex、企業や銀行への攻撃に悪用

8月下旬ごろから、Artexや同種のAI侵入フレームワークが企業や銀行、政府機関への攻撃に使われ、韓国の金融機関からの窃取との関連も報告されている

NEWWIRED AI1時間前

DisneyのVilo Vele、AWS AIで来園者に対応

Walt Disney ImagineeringのR&D部門が『The Mandalorian and Grogu』のAnzellanを基にした3体のAudio-Animatronic試作機—Vilo Vele、Kado…

NEWThe Verge AI1時間前

Sam Altman氏、AIへの権限移行は「ひどい考え」と警告

The New York Times DealBook SummitでSam Altman氏は意思決定の段階的AI移行を「ひどい考え」だと述べ、人間が未来の制御を握り続ける必要があると語った

NEWTechCrunch AI1時間前

Google、検索のAIモードに一時スレッド機能

GoogleはAIモードで一時スレッドの展開を始めた

NEWTechCrunch AI1時間前

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前
次の記事へカナダの議員がAI指示文を演説で読み上げ