AIToday
大規模言語モデルZenn AI/ML掲載日時: 2026年10月16日 10:00

Haikuに要約させると13件中4件で核心落ちる

LINEで送る
Haikuに要約させると13件中4件で核心落ちる

3つのポイント

  1. 何が起きたか

    同じ保存記事14件を要約させると、Haiku 5.5は13件中4件で核心的主張を落とし、2回連続で同じ結果に。Opus 5.5は13/13と12/13で、捏造された数値や引用はどの条件でも0件だった。

  2. なぜ重要か

    ファクトチェックは要約に書かれたことしか確認できず、核心的主張が欠けてもシグナルは残らない。Opus 5.5でも核心的主張を1件落としており、静かな欠落は安価なモデルだけの問題ではない可能性を示す。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

このテストは検索パイプラインではなくモデル自体を切り分けるよう設計された。14本のウェブ記事を10/9に取得・保存し、同一ファイルを全条件に投入したため、CAPTCHAやタイムアウトが各モデルの読む内容を変えることで差が生じることはなかった。

要約の失敗は2種類に区別される。事実誤りは書かれた内容を原文と照合すれば捕まえられる。核心的主張の欠落はその方法では捕まらない。要約に何も現れず、チェッカーが比較する対象がないからだ。素のプロンプトでのHaikuの要約は、比較表の最上段で事実チェックを満点で通過しながら、13件中4件で中心的論点を落としていた。失敗は網の外側にある。

検索の限界は別の挙動を示した。プロンプトの手順は両方のギャップを同時に埋め、Haikuの核心的主張スコアを13/13に、両モデルの検索限界スコアを9〜10/10に押し上げた。一例がGPT-6発表で、素のHaiku要約は製品詳細をすべて正しく列挙しながら、ソフトウェアが人に適応するという締めの一文に触れなかった。手順を加えた版はその一文を冒頭に置き、取得テキスト内のインタラクティブUI例がGPT-5.6 Instantと表示されている点を指摘した。

よくある質問
安価なモデルは事実を捏造したのか?
いいえ。比較のどの条件でも、数値と英語の引用を原文と照合した結果、Haiku 5.5とOpus 5.5のどちらも捏造は0件だった。
欠けていた手順はモデルに具体的に何を求めたのか?
書く前に各記事について3点を決める。著者の中心的主張を1文で、原文からの裏付けを2〜3点、取得できなかった部分はどこか。
安価なモデルはより速く、トークン消費も少なかったのか?
いいえ。手順を加えたHaiku 5.5は2回の実行で232秒と136秒かかり、Opus 5.5の110〜124秒より遅く、トークン使用量はどの条件でも概ね137k〜161kだった。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へリーナス・トーバルズがAIでLinuxカーネル改善