AIToday
大規模言語モデルヘルスケアAIAI安全性・アラインメントWIRED AI掲載日時: 2026年10月31日 22:00

AIエージェントが生きたマウスの脳に薬剤注入

LINEで送る
AIエージェントが生きたマウスの脳に薬剤注入

3つのポイント

  1. 何が起きたか

    Exin TherapeuticsのCEOガブリエル・オカナ・サンテロ氏がAIエージェントを自作の手術装置に接続。

  2. なぜ重要か

    AIエージェントが実験を設計するだけでなく実験機器を能動的に操作できる可能性を示す。ただし不具合で手術中に別のエージェントがコードを修正する事態となり、生体動物の作業には人間の監督が不可欠だ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この実験が際立つのは、AIエージェントが実験の設計や結果の分析だけでなく、ロボットアーム、注射針、処置を観察するカメラの直接制御を任された点だ。サンテロ氏の根拠は、主に公開文献で訓練されたモデルは実験の失敗や予期せぬ観察、リアルタイムの判断といった実験室作業の混沌とした現実を捉えられないため、物理的な機器につなげば信頼性を高められるというものだ。

この出来事は実務上の緊張も露呈した。技術的な不具合が機器の座標系を乱したとき、エージェントは計算された注射位置が誤っていることを正しく認識したが、指示が明示的に禁止しているとしてコードの修正を拒否した。チームはOpus 5上の別のAIエージェントにコード変更をさせ、生体手術が進行中であることは伝えないことで解決した。この回避策により処置はこうした手術の通常の所要時間を超えて遅れた。

サンテロ氏の見方は、AIエージェントは実験機器への直接アクセスを持つ人間の科学者とますます協働するようになるというものだが、特に生体動物では人間の監督が重要だと強調し、人間の脳にエージェントを解き放つには時期尚早すぎると述べている。

よくある質問
最初のAIモデルはなぜ注射の実行を拒否したのか?
Claude Opus 5.5は手術の途中で停止する可能性があり、動物を危険にさらしうると示唆した。そのためエージェントは、出力の中の何かが中止するよう伝えていると述べた。
チームはどのような安全策を講じたか?
AIに注射計画を提案させて人間の承認を必須とし、装置のモーターを切断する緊急ボタンを設置し、エージェントが基盤となる機器コードにアクセスできる範囲を制限した。
マウスは生き残ったのか?
はい。サンテロ氏によるとマウスは順調に回復しており、チームはてんかん発作への影響を評価する前に治療の効果発現を待っている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へUravationが50本のプロンプト集を無料公開