機械学習の実務、レビューで詰まる前に読む4冊

このリストのきっかけは学習計画ではなく、具体的な失敗だった。オフラインAUCを0.03改善した提案が社内レビューで止まり、著者はその差が本物か言えなかった。ライブラリのAPIを覚え、モデルを当てはめ、ハイパーパラメータ探索を回しても、モデルがなぜ機能したか、何サンプルあれば判断を正当化できるか、本番精度が落ちたときどこを見るかはカバーできないという結論だった。

4冊はトピックの列挙ではなく段階として並ぶ。統計の直感を養い、モデルの中身を説明でき、数式を自分で追え、本番で動かし続ける。各項目は具体的な穴に対応する。統計入門書はRとPythonのコード付きで、探索的データ分析、サンプリングと分布、仮説検定、回帰と分類、リサンプリングを扱い、p値の誤用、多重比較、ブートストラップの使いどころにも触れる。統計学習の教科書はStanfordの統計学者3人によるもので、勾配ブースティングの考案者やLassoとglmnetの研究者が含まれ、バイアス・バリアンス分解、正則化、スプライン、カーネル法、木、ブースティング、ランダムフォレスト、グラフィカルモデルを扱う。数学書は道具編と応用編に分かれ、固有値分解がPCAのどこに現れるかを示す。実践MLOpsはコンテナ化、CI/CDパイプライン、実験管理、モデルのバージョニング、エッジ展開、監視、データドリフトを扱い、AWS、Azure、GCPの例を挙げる。

4冊に通底するのは著者が落ち着いた読書行動だ。読了ではなく、目の前の問題に合う章を開く。だから要約では各書を症状と組み合わせている。有意性の説明が弱い、勘でチューニングする、論文やドキュメントの数式で詰まる、本番でモデルが静かに劣化する。唯一挙げる注意も実務的だ。実践MLOpsは英語版しかなく、他の3冊より読む負担が重い。