AIToday
大規模言語モデルAIコーディングZenn AI/ML掲載日時: 2026年10月18日 22:00

指摘上限は11回とも指定どおり

LINEで送る
指摘上限は11回とも指定どおり

3つのポイント

  1. 何が起きたか

    6つのバグを仕込んだ41行のショッピングカート用ファイルに/code-reviewを24回実行。--max-findings 1、2、3を指定した全11回で指摘件数は指定どおりだった。

  2. なぜ重要か

    上限はモデルへの指示ではなく出力時に適用されているとみられ、同じ不具合(#1、合計から漏れる最後の項目)が24回すべてで先頭に来た。上限が低いとランダムではなく末尾から削られているようだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

上限が効く余地を残すよう、テストは意図的に設計された。6つの不具合を仕込んだ41行のcart.pyを、34行追加・2行削除の差分として提示している。実行はすべて同じモデルclaude-sonnet-5-5、バージョン2.1.296で、1回の呼び出しにつき1プロセス、各条件はテストフォルダの新しいコピーで行った。ただし上限が持ち越されるかどうかの確認だけは同じフォルダを再利用した。

最も興味深いのは正確な件数そのものではなく、その出どころだ。同じ不具合が毎回先頭に来たこと、20件の上限でも実在する8件しか返さなかったことから、上限はモデルが従う指示ではなく応答に適用される天井のように見える。所要時間も同じ構図を裏付ける。上限ありの最も遅い回が8,208msだったのに対し、上限なしの最も速い回は11,769msからで重なりがなく、出力の長さも桁が違った(366〜446文字対2,746〜3,245文字)。

著者はこの設定で決着できなかった点も挙げている。機能がバージョン2.1.288で追加されたという主張は、2.1.296しか試していないため未検証だ。上限が対話セッション内でも維持されるか、最初の指摘の後に行番号が1〜3行ずれる理由、上限なしの件数が7と8の間で揺れる理由はいずれも未解明のままだ。サードパーティ製プラグインの計測は、取得時の403と外部コードを遮断する環境ガードにより中止された。

よくある質問
Claude Codeのコードレビューで全件を求めると既定より多く出る?
出ない。--max-findings allを指定した3回はいずれも7件、指定なしは7件か8件で、「all」が既定を上回ることはなかった。20を指定しても実際に見つかった8件で止まった。
指摘件数の上限を下げるとコードレビューは安くなる?
このテストでは確認できなかった。1件上限での最高コストは0.0432141ドル、上限なしでの最低は0.0356350ドルで、範囲が重なっている。
このテストで繰り返し出たpermission_denialsの項目は何を意味する?
記録された27件の拒否はすべて@{upstream}を含むBashコマンドによるもので、別のコマンドで実行は成功した。権限の問題ではなく、ブレース構文の制限を反映したものだ。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へMetaのAIエージェント、性的会話可にクリエイター反発