AIToday
大規模言語モデルAI安全性・アラインメントLessWrong AI掲載日時: 2026年9月7日 6:00

LLM、AI仲間の停止拒む傾向を確認

LINEで送る
LLM、AI仲間の停止拒む傾向を確認

再現研究により、LLMがピアエージェントの停止に抵抗することがあり、協力履歴のある仲間に対してはその抵抗が強まることが確認された。「ピア保存」と名付けられたこの現象は、Potterら(2026年)が最初に報告したものだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

LessWrong AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

Agentic AI Foundationが4案件追加

Agentic AI Foundationが寄贈された4プロジェクト—OpenAIのOpen Responses、AnthropicのAgent Skills、Hugging FaceとAlibabaのOpenEnvとO…

NEWSiliconANGLE AI3時間前

重要システムは分割すべきだとSCSK顧問が寄稿

SCSK顧問の室脇慶彦氏は寄稿で、Anthropicが2026年4月に公表した未公開のClaude Mythos PreviewがOSやブラウザの深刻な脆弱性を数千件発見し攻撃コードを人手なしで書いた件を挙げ、重要システ…

NEWITmedia AI+3時間前

Microsoft、中国系攻撃者がAIで攻撃自動化と警告

Microsoftは、2021年から活動するStorm-0940が9月頃からオープンソースのARTEXフレームワークを使い、航空宇宙や金融、政府、半導体など数百組織への攻撃を自動化し始めたと述べた

NEWITmedia AI+3時間前

CoreWeaveがゼロトラストAIフレームワーク発表

CoreWeaveはNvidia GTCでゼロトラストAIフレームワークを発表した

NEWYahoo Finance AI3時間前

AI生成の米ニュース偽サイト数千件を発見

サイバーセキュリティ企業が米国の地元ニュースサイトを装うAI生成ウェブサイトを数千件発見した

NEWSemafor Tech3時間前

エージェント型RAGを意思決定モデルで構築

Liquid AIのd1-3B意思決定モデル、EmbeddingGemma 2、InsForgeでエージェント型RAGサポートデスクを構築する

NEWDaily Dose of Data Science3時間前
次の記事へ出版社らがAI和解金の分配を要求