AIToday
大規模言語モデルAI安全性・アラインメントITmedia AI+掲載日時: 2026年11月13日 10:01

約半数がAIエージェントの予期せぬ行動を経験

LINEで送る
約半数がAIエージェントの予期せぬ行動を経験

Salt Securityの調査で約半数がAIエージェントの意図しない行動を確認。組織は予期せぬ動きを自動で止められていない。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

ITmedia AI+元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

Claudeが求人票145件の人物像を分析、最多はデータ分析経験

著者は145件の求人票の「求める人物像」をClaudeに投入しラベルを抽出・埋め込みベクトル化

NEWQiita 機械学習1時間前

FAA、SMART導入3日後に米国内の出発便を全面停止

FAAは金曜日、米国内の出発便を全面停止した

NEWAI Weekly1時間前

夏のランサムウェア攻撃が3000件近く、春から最大40%増

リークサイトの重複排除データによると、夏のランサムウェア攻撃は3000件近くで、推計では春から20〜40%増加した

NEWWIRED AI1時間前

Jamie Dimon、JPモルガン、外部AIエージェントを遮断へ

ジェイミー・ダイモン氏は、JPモルガン・チェースが外部のAIエージェントを「どんなものでも」社内に入れることは「ない」と述べ、10月の決算説明会で「野良エージェントは困る」と警告した

NEWYahoo Finance AI4時間前

OpenAIがロボティクスチーム解散、汎用モデルで直接制御へ

OpenAIは独立したロボティクスチームを解散し、研究員をMark Chen最高研究責任者率いる本体の研究チームに編入する

NEWTHE DECODER4時間前

Coxon氏、Mythosは当初の一部の計算資源で再学習可能と指摘

OpenAIとAnthropicの元研究者Jacob Coxon氏が、AnthropicのIPO資料の事前学習計算資源需要グラフを引き合いに、Mythosはすでに当初の一部で再学習できると述べた

NEWTHE DECODER4時間前
次の記事へNvidiaがHuang CEOを解任