AIToday
AIコーディングAI安全性・アラインメントZenn AI/ML掲載日時: 2026年10月12日 10:00

AIコーディングの誤許可を修正

LINEで送る
AIコーディングの誤許可を修正

3つのポイント

  1. 何が起きたか

    Claude Codeの2.1.294は、自然言語で書いたフックが拒否すべき操作を許可する反転を修正した。2.1.289は複合シェル命令や環境変数付き命令で拒否・確認規則が回避される問題を直した。

  2. なぜ重要か

    承認待ちを挟む長時間処理の再開や、サブエージェントごとの権限配分が安定する。無人実行の信頼性はモデルの賢さより状態管理で決まるとみられる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Claude Codeの四つの更新を並べると、モデルの賢さではなく権限判定の状態管理を直していることが分かる。2.1.289では複合シェル命令の内側や環境変数の代入後にある命令にも拒否・確認規則を保つようにし、表面の文字列を少し変えただけで管理対象の操作が規則をすり抜ける経路を塞いだ。2.1.294では自然言語で書いたフックの判定反転を修正し、StopとSubagentStopでも指示をより正しく評価する。2.1.290ではagentIdと組織の承認上限をフックに渡し、主セッションとサブエージェントで権限を分ける設計を可能にした。同じ版は圧縮後に消えていた定期タスクの再開や長いWebFetchの続きの取得も直し、2.1.291はクラウドセッションの承認取りこぼしと終了時のメッセージ喪失を修正した。安全装置を増やすというより、停止・承認・再開の遷移を一つずつ修理している。短い実演なら成功率九割でもよいが、毎日回すなら失敗率の桁を下げる作業が要る。権限画面への回答を一度失うだけで長い仕事全体が止まるため、自律性はモデルの能力ではなく状態機械の信頼性まで含む。

よくある質問
何が修正されましたか?
自然言語で書いたフックが拒否すべき操作を許可する反転と、複合シェル命令や環境変数付き命令で拒否・確認規則が回避される問題が修正された。
agentIdは何のために追加されましたか?
主セッションとサブエージェントのどちらが道具を呼ぼうとしているかをフックへ渡すためで、操作主体ごとに権限を分ける設計ができる。
HYSETとは何ですか?
数千の候補からタスクに合う道具の組み合わせを選ぶ方式。各道具を個別評価せず、候補集合の評価と反復的な追加・削除でエージェントの道具選択を最適化する。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

SageMaker AIでLLMを検証可能報酬で訓練

独自の4シグナル報酬(正確性0.6、解析可能性0.2、形式0.1、推論0.1)でQwen3 0.6BをSageMaker AI上のRLVRで訓練する

NEWDaily Dose of Data Science1時間前

Airbnb、AIネイティブ企業に作り直したと宣言

CEOのBrian Chesky氏は、Airbnbが「AIネイティブ企業」になったと述べた

NEWZenn AI/ML1時間前

過去事例学習ではAIの分析は不完全

自称データアナリストがZennで、大規模言語モデルに過去の分析レポートや同種のデータ処理ワークフローを与えても、分析の最初の2段階であるデータ処理と集計しかカバーできないと論じた

NEWZenn AI/ML1時間前

AIコーディングの会話は使用量でなく区切りで切る

PlanGateに関するZennの記事が、Claude CodeやCodexのセッションは使用量のしきい値ではなく作業の区切りで分割し、各フェーズで更新する正本から再開すべきだと主張している

NEWZenn AI/ML1時間前

AIコーディング計測、30秒で打ち切られ失敗扱い

同じClaude Codeセッションでagent-costを直接実行すると36.454秒で完了したが、修正前のAgentCostTelemetryAdapterは30_000msで30.019秒に停止し「Command…

NEWZenn AI/ML1時間前

GoogleのPlaygroundで記者がゲーム3本作成

WIREDのBoone Ashworth記者はGoogle LabsのPlaygroundでPork DropやトップダウンシューターNeon Donなど3本のゲームを1日で作った

NEWTop Companies AI4時間前
次の記事へAMDのAI好機、クレイマー氏が指摘