LightGBM 予測モデル実装ハンドブック(ライトジービーエムヨソクモデルジッソウハンドブック)

本書は実践知を基に LightGBM の仕組みや実務への活用方法をハンズオン形式で学ぶ技術書です。 LightGBM はレコード数が 1,000 万件を越える大規模データでも数時間でモデル学習でき、予測精度が高く、実装がシンプルという開発運用に適した特徴を兼ね揃えた機械学習アルゴリズムです。
本書の目標は以下の 2 つです。

目標 1 LightGBM の理解ためには、逆説的ですが「 LightGBM 以外」の仕組みを具体的に理解する必要があると、筆者は考えています。そこで、本書は機械学習の基礎となる「線形回帰」、勾配ブースティングの基礎となる「決定木 (回帰木) 」の仕組みを最初に整理し、続いて、回帰木→勾配ブースティング→ XGBoost → LightGBM とアルゴリズムごとの工夫 (前提条件) を数式を交えて理解する構成にしています。

目標 2 実務活用は探索的データ解析 (EDA) 、クロスバリデーション、特徴量エンジニアリング、ハイパーパラメータ最適化の精度改善の実装を通じて、実務で役立つ考え方や運用で注意すべき点を学べるようにハンズオンします。また、実務は精度の改善と並んで、予測値の説明性が大事になります。そこで、予測値を特徴量の貢献度で分解し、予測値の原因を分析します。
第 1 章 予測モデルの概要
第 2 章 回帰の予測モデル
第 3 章 分類の予測モデル
第 4 章 回帰の予測モデル改善
第 5 章 LightGBM への発展

テーブルデータの予測モデルづくりで広く使われる勾配ブースティングライブラリ、 LightGBM 。大規模データでも短時間で学習でき精度も出るこの道具を、パラメータの意味も分からず「とりあえず動かす」段階から卒業させてくれるのが、毛利拓也氏による本書です。 2023 年 6 月に秀和システムから刊行されました。

面白いのはアプローチで、 LightGBM を理解するには LightGBM 以外の仕組みの理解が要る、という考えのもと、線形回帰と決定木から出発し、勾配ブースティング、 XGBoost 、 LightGBM へと各アルゴリズムが加えた工夫を数式を交えて一段ずつ積み上げていきます。後半は実務パートで、探索的データ解析から始め、特徴量の作り込みとクロスバリデーションによる評価、そしてハイパーパラメータの最適化と、精度改善の定石をハンズオンで回し、さらに予測値を特徴量の貢献度に分解して「なぜこの予測になったのか」を説明する分析まで踏み込みます。精度と説明性の両方を実務の要件として扱う編集は、業務でモデルを運用する人の悩みに沿ったものです。

Python の基本と機械学習の初歩的な用語を知っている中級手前の読者が対象で、数式は登場しますが導出を丸暗記させる類ではありません。コンペや業務でモデルの中身を人に説明する場面を控えている人ほど、投資が回収しやすい構成になっています。