作ってわかる! アンサンブル学習アルゴリズム入門

機械学習の精度を高める「アンサンブル学習」を Python3 でゼロから実装する!「アンサンブル学習」の仕組みや原理を学ぶことができる 1 冊!

『作ってわかる! アンサンブル学習アルゴリズム入門』 (坂本俊之 著、C&R 研究所、2019 年 6 月刊) は、複数の学習モデルを組み合わせて予測の精度を高めるアンサンブル学習を、Python 3 のコードでゼロから組み立てて学ぶ本です。書誌の紹介文には、機械学習の精度を高める「アンサンブル学習」を Python 3 でゼロから実装し、その仕組みや原理を学ぶことができるとあります。

バギングとブースティング、スタッキング

アンサンブル学習は、機械学習 で複数のモデルの予測を組み合わせて 1 つの予測を出す手法の総称です。代表的な型は 3 つあります。バギングは、訓練データから重複を許して取り出したデータの組を複数作り、それぞれで学習したモデルの予測を多数決や平均でまとめる方法で、決定木のバギングに特徴量のランダムな選択を加えたものがランダムフォレストです。ブースティングは、前のモデルが誤った点を次のモデルが重点的に学ぶよう順にモデルを足していく方法で、誤分類したデータの重みを上げる AdaBoost や、損失の勾配に新しい決定木を当てはめる勾配ブースティングがあります。XGBoost と LightGBM は勾配ブースティングを実装したライブラリです。スタッキングは、複数のモデルの予測を入力にして、それらを束ねる別のモデルを学習させる方法です。

Python 3 でゼロから組むアンサンブル学習のアルゴリズム

Python では、scikit-learn の RandomForestClassifier や GradientBoostingClassifier のように、アンサンブル学習の手法がクラスとして用意されています。ゼロから実装する場合は、個々の学習モデルの学習と予測、データの取り出し方、各モデルの予測の集約といった処理を自分のコードで書きます。決定木を基にする手法では、ジニ不純度やエントロピー、二乗誤差といった基準でデータを分割する処理も実装の対象になります。機械学習の本の選び方は 機械学習 / ディープラーニング本ガイド にまとめています。

2019 年 6 月刊と書誌の記録

国立国会図書館の書誌では、本書は 2019 年 6 月の刊行で、出版者はシーアンドアール研究所と記録され、索引ありと記録されています。国立国会図書館の書誌では、英語の書名「Ensemble learning introduction to algorithms」も記録されています。本書は、アンサンブル学習の仕組みと原理を、Python 3 によるゼロからの実装で扱っています。