AIToday
大規模言語モデルAI安全性・アラインメントQiita 機械学習掲載日時: 2026年11月22日 13:00

生成AIの幻覚と不正確さは別物、AWS試験ガイドが区別

LINEで送る
生成AIの幻覚と不正確さは別物、AWS試験ガイドが区別

3つのポイント

  1. 何が起きたか

    AIF-C01試験ガイドは生成AIの公式な4つの欠点をハルシネーション、低解釈性、不正確さ、非決定性に分類し、ハルシネーション(出典の捏造)と不正確さ(実在する出典を引用するが誤る)を区別している。

  2. なぜ重要か

    この2つの失敗は異なる対処を要するため、すべての誤答を同じ種類のエラーとして扱うチームは誤った対策を講じる恐れがある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

AIF-C01試験のタスク2.2の学習ガイドは、ビジネス課題に対する生成AIの可能性と限界を扱う。中心的な教えは、公式な4つの欠点がそれぞれ異なる形で失敗するという点にあり、試験のシナリオは症状を正しい用語に結び付けられるかを試すよう設計されている。ガイドは対になる例でこれを示す。存在しない社内規程の条項を引用するのはハルシネーション、合計の計算間違いや要約での重要条件の脱落は不正確さを指す。ハルシネーションと不正確さは最も混同されやすい組だと指摘し、区別を一行に要約する。ハルシネーションは存在しないものを存在すると述べ、不正確さは存在するものを誤る、というわけだ。

ガイドは生成時のランダム性を制御する設定である温度にも触れる。温度を下げるとモデルは確率の高いトークンを選び、出力はより決定的になるが、ガイドはこれがモデルを正確にするわけではなく、ハルシネーションも排除しないと強調し、よくある罠だと指摘する。この区別が重要なのは、一貫性と正確さという、ビジネスの読者がしばしば一体とみなす2つの性質を切り離すからだ。

定義にとどまらず、ガイドは導入を判断の問題として捉える。生成AIが向く業務として起草、要約、翻訳、社内FAQの一次回答を挙げ、向かない業務として厳密な計算、責任の重い最終決定、毎回同一の結果を要するプロセスを挙げる。さらにモデル選定の8つの基準としてコスト、レイテンシ、コンプライアンスなどを示し、大きなモデルが常に正解とは限らず、過剰なモデルはコストとレイテンシを浪費すると警告する。最後に、ビジネス価値はモデルの正確さだけでなく、ROI、効率、コンバージョン率、ARPU、精度、顧客生涯価値、領域横断的な性能といった運用指標と併せて測るべきだと論じる。

よくある質問
ハルシネーションと不正確さの違いは何か?
ハルシネーションとは、モデルが根拠のない内容を述べることだ。存在しない社内規程を引用するようなケースを指す。不正確さとは、実在する根拠を使いながら細部を誤ることだ。合計を計算し間違えたり、要約で重要な条件を落としたりするケースを指す。
温度設定を下げれば生成AIの回答は正確になるのか?
ならない。温度を下げるとモデルはより確率の高いトークンを選び、出力はより決定的になるが、正確さは保証されず、ハルシネーションも排除できない。
試験ガイドは生成AIが不向きとする業務はどれか?
金額や数量の確定のような厳密な計算、法務や医療の判断のような責任の重い最終決定、毎回まったく同じ結果を要求するプロセスだ。
Qiita 機械学習元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

ゴムマリ、官公庁の入札先選ぶAIエージェント開始

2026年11月22日から、GomumariのターゲットリストAIエージェントが、顧客の過去の受注機関リスト(約30件で足りる)を読み込み、入札公告を出している官公庁・自治体を機関ごとの選定理由付きで順位付けする

NEWASCII.jp1時間前

ゴムマリ、見積査定AIエージェントを11月22日提供開始

ゴムマリは2026年11月22日、見積査定AIエージェントの提供を開始する

NEWASCII.jp1時間前

ゴムマリ、広告審査AIエージェントを11月22日提供開始

ゴムマリが広告原稿を法令・ガイドライン・社内基準と照合する「広告審査AIエージェント」を2026年11月22日から提供する

NEWASCII.jp1時間前

中国国家データ局がAIトークン基準策定へ 劉烈宏氏が表明

中国国家データ局の劉烈宏局長は11月20日、AIトークンの計量・課金・品質検査に関する国家基準を策定すると述べた

NEWAI Weekly1時間前

AIプロンプト200万件に追跡用シークレット、3社が侵害

DragosのHD Moore氏が約200万件のプロンプトに固有の追跡可能なシークレットを仕込み、少なくとも3社のAIプロバイダーが侵害され、攻撃者が盗んだAWSキーを数万回再利用した

NEWLobsters AI1時間前

AWS QuickにMeta広告AIコネクター

AWS QuickがMeta広告AIコネクターを追加し、Meta広告のModel Context Protocol(MCP)サーバー操作に自然言語でアクセス可能になった

NEWAmazon AI Blog1時間前
次の記事へ中国国家データ局がAIトークン基準策定へ 劉烈宏氏が表明