AIToday
大規模言語モデルHacker News掲載日時: 2026年7月22日 13:01

機械学習の基礎6つ:過学習から84%精度まで

LINEで送る
機械学習の基礎6つ:過学習から84%精度まで

3つのポイント

  1. 何が起きたか

    UIデータセット(32,561行)を用いた機械学習の基礎概念チュートリアルが、年収50,000ドル以上を稼ぐ人を予測する二値分類タスクで84%の精度に達するモデルを構築している。

  2. なぜ重要か

    単純なベースラインの重要性を示しており、常に多数派クラスを予測するモデルは何も学習せずに76%の精度を達成する。過学習と過小学習という相反する2つの落とし穴は実際のモデルを損なうものであり、この関係性を理解することは本番環境のMLシステムを構築する誰もが習得すべき必須知識である。

  3. 注目点

    チュートリアルは訓練性能とテスト性能のギャップを主要な診断ツールとして実証している。深い決定木(max_depth=15)は訓練で85.8%に達するが、テストで83.8%に留まり、2ポイントのギャップが過学習を示唆している。一方、浅い単一ノード決定木(max_depth=1)は訓練で80.2%、テストで80.5%と両者とも低く、過小学習を示している。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

チュートリアルは機械学習を少数の基礎原則に根ざした分野として構築し、実データセットを用いてそれらの原則を具体化している。UCI Adult Census Incomeデータセットが選ばれた理由は、クラス不均衡(76% vs 24%)が重要な教訓を即座に教えるからである。常に多数派クラスを予測する単純な分類器は何も学習せずに76%の精度に達する。このベースラインはあらゆる実モデルが上回る必要がある床を示し、モデル選択と複雑性制御が重要である理由を確立している。

2つの中核的な落とし穴—過学習と過小学習—は単一スペクトラムの対極として提示される。過学習は深い決定木で実証され、それは訓練データの疑似相関を学習する(例えば年齢と資本利得の特定の組み合わせはサンプルではインカムと相関するが母集団では相関しない)。その結果は訓練(85.8%)とテスト性能(83.8%)の2ポイントのギャップである。過小学習は単一ノード決定スタンプで示され、広い規則(おそらく教育か週労働時間)のみをキャプチャし、高所得者と低所得者を区別する豊かな相互作用を発見できず、訓練とテスト両スコアがベースラインをわずかに上回るに留まる。チュートリアルの洞察は、このギャップ—またはギャップの欠如—が診断信号であること。大きなギャップは過学習を示唆し、小さなギャップで両スコアが低いことは過小学習を示唆する。

よくある質問
Adult Census Incomeデータセットとは何か?
年齢、教育、職業、週労働時間など14の特徴量で記述された32,561行のデータを含み、二値目的変数は年収が50,000ドルを超えるかどうかである。目的変数は不均衡であり、約76%が年収50,000ドル以下、24%がそれ以上である。
チュートリアルのモデルが達成する精度は?
ワーキングモデルは84%の精度に到達する。チュートリアルはこの結果を使って、常に多数派クラスを予測する76%のベースラインを上回るには過学習と過小学習を理解する必要があることを説明している。
過学習と過小学習はどう異なるか?
過学習は、モデルが訓練データのノイズを丸暗記する場合に起こる。深い決定木(max_depth=15)は訓練で85.8%だがテストで83.8%に留まる。過小学習は、モデルが単純すぎる場合に起こり、決定スタンプ(max_depth=1)は訓練で80.2%、テストで80.5%と、両者とも76%のベースラインをわずかに上回るに過ぎない。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前
次の記事へAnthropic、Physical Intelligenceの買収協議か—ロボティクス競争激化