何が起きたか
『高リスク分野のための機械学習』（オライリー・ジャパン、2025年）の日本語版は、ザローのアルゴリズムによるiBuyingへの転換が2021年に5億ドル超の損失処理と約2,000人の人員削減につながった経緯を描き、全体のAUCが0.78だったXGBoostモデルが偽陽性率1.0のセグメントを隠していた—つまり非延滞者を全員延滞者と誤予測していた—ことを示す。
なぜ重要か
テストデータでの好成績と現実世界での意図した効果は根本的に別問題であり、集計スコアに頼るエンジニアやモデル責任者は深刻な局所的失敗を見逃しかねないと本書は論じる。
注目点
本書はpandas 1.3への依存や生成AIの意図的除外など自らの限界も記し、EU AI Actは2024年8月に発効し2026年8月から段階的に適用されるため、実務家は自らのモデルと規制環境に本書の枠組みを適応できるか評価する必要がある。
誰に効くか採用、信用、生体認証など高リスク分野で機械学習モデルを導入・管理する企業ITチームとデータサイエンティストは、集計精度指標を超えて、セグメント単位のチェックとキルスイッチを計画する必要がある。
こういう要約が、毎朝あなたのメールに届きます。
本書は実際のインシデントの事例研究から議論を組み立てている。ザローのiBuying失敗は、専門家によるレビューを廃止した後にシステムの重要性だけを高め、ガバナンスを高めなかった例として提示され、同社は後に5億ドル超の損失処理を行い、約2,000人を削減した。別のXGBoostの例では、許容範囲の全体AUC 0.78が偽陽性率1.0のセグメントを隠し得ることが示される。本書はこれらを、EU AI Actの2024年発効と2026年8月からの段階的執行を含む規制背景に対置し、生成AIについては失敗モードと制御がまだ十分に確立していないとの著者の判断から意図的に扱わない。レッドチーミング演習では、制約付きモデルの方が制約なしモデルより抽出しやすかったと報告され、防御が新たな攻撃面を生むことが示される。成果は、組織が文書化、独立したテスト、チームの多様性を後付けではなく中核的なエンジニアリング要件として扱うかどうかにかかっていそうだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Anthropic CEOのDario Amodei氏は、OuraがIPOを延期しOpenAIが来年まで待つ可能性を示唆する中でも、感謝祭前のIPOを目指していると報じられている
ファーウェイは、1台あたりの製造コストが平均200ドル上昇したとして、フラッグシップの価格を最大200ドル引き上げた
SpaceX株は米東部時間金曜午前11時までに6.1%上昇
AirbnbのCTO Ahmad Al-Dahleは、社内AIツール「Everest」により食料品配送は8～9ヶ月、空港送迎は約6週間で開発できたと述べ、コードの60%をAIが作成していると明かした
Booking HoldingsのCFO、Ewout Steenbergen氏がFortuneのAIQ Summitで、LLM開発に数百億ドルを投じるハイパースケーラーでもROIを把握せず仮定や仮説に頼ると述べた
ベン・アフレックはBloombergに、AIを実際に使えば「人類を皆殺しにする」という物語は「プロパガンダ」に見えると語り、AIを使う映画は「技術的にはより多くの人員」を雇うと述べた
