scikit-learn データ分析実装ハンドブック

実データに合わせて最適な予測モデルを作ることのできる Python ライブラリの scikit-learn 解説書です。本書は他の実装本とは異なり、アルゴリズムの解説に敢えて数式を採用し、実装で指定するハイパーパラメータと数式の関係が分かるよう工夫しました。また、ハイパーパラメータの値を増減し、そのときの予測の変化も紙面が許す限り記載しました。本書は不動産価格の予測やワイン品種の分類で使用する典型的なデータセットだけでなく、より実践的なデータ分析が学べるよう、タイタニック、気温、MovieLens のデータセットを採用しています。これらのデータセットを用いて、前処理から予測モデル作成までの分析例を実例で紹介します。
第 1 章 機械学習とは何か
1.1 機械学習とは何か
1.2 機械学習の種類

第 2 章 scikit-learn と開発環境
2.1 scikit-learn とは
2.2 scikit-learn のセットアップ
2.3 scikit-learn による機械学習の基本的な実装
2.4 アルゴリズムチートシート

第 3 章 回帰
3.1 回帰のアルゴリズム
3.2 線形回帰
3.3 線形回帰の正則化
3.4 線形回帰の確率的勾配降下法
3.5 線形サポートベクトル回帰
3.6 ガウスカーネルのサポートベクトル回帰
3.7 ランダムフォレスト回帰

第 4 章 分類
4.1 分類のアルゴリズム
4.2 ロジスティック回帰
4.3 線形サポートベクトル分類
4.4 ガウスカーネルのサポートベクトル分類
4.5 ランダムフォレスト

第 5 章 クラスタリング
5.1 クラスタリングのアルゴリズム
5.2 K-means
5.3 混合ガウス分布 (GMM)、変分混合ガウス分布 (VBGMM)

第 6 章 次元削減
6.1 次元削減のアルゴリズム
6.2 主成分分析 (PCA)
6.3 カーネル PCA

第 7 章 モデルの評価
7.1 モデルの評価

第 8 章 Preprocessing、実データ分析
8.1 はじめに
8.2 ロジスティック回帰を活用したタイタニックの予測モデルの作成
8.3 ランダムフォレストを活用した気温分析と消費の予測モデルの作成
8.4 Collaborative filtering を活用したレコメンデーションモデル
8.5 MovieLens を使ったモデル作り

第 9 章 scikit-learn API
9.1 regression (回帰)
9.2 classification (分類)
9.3 clustering (クラスタリング)
9.4 dimensionality reduction (次元削減)

Python の機械学習ライブラリ scikit-learn を使い、回帰、分類、クラスタリング、次元削減の代表的なアルゴリズムを数式とコードの両面から学ぶ解説書が『scikit-learn データ分析実装ハンドブック』 (毛利拓也、北川廣野、澤田千代子、谷一徳 著、秀和システム、2019 年 11 月 12 日発売) です。版元は本書を、機械学習の概要を学びたい人に向けた scikit-learn の実装解説書と案内しています。紹介文によると、アルゴリズムの解説にあえて数式を採用し、実装で指定するハイパーパラメーターと数式の関係が分かるようにしたうえで、ハイパーパラメーターの値を増減したときの予測の変化も紙面が許す限り載せています。

全 9 章の構成、環境構築から scikit-learn API の整理まで

第 1 章「機械学習とは何か」と第 2 章「scikit-learn と開発環境」では、機械学習の種類を整理したあと、Python の仮想環境、Jupyter Notebook の起動、Colaboratory での実行方法までを整えます。第 2 章には、データの読み込み、訓練データと評価データの準備、アルゴリズム選択、学習、予測、モデルの評価という基本的な実装の手順を追う節と、アルゴリズムチートシートの節があります。第 3 章から第 6 章は回帰、分類、クラスタリング、次元削減の 4 章で、第 7 章「モデルの評価」は交差検証の各種の方法、グリッドサーチ、分類と回帰の評価方法を扱います。第 8 章「Preprocessing、実データ分析」で実データを使った分析例に進み、最後の第 9 章「scikit-learn API」は回帰、分類、クラスタリング、次元削減の推定器を API ごとに整理しています。

損失関数とハイパーパラメーターを数式で結びつける意味

機械学習 のライブラリは、推定器を作って学習と予測のメソッドを呼べば結果が出る設計なので、引数の意味を知らなくてもコードは動きます。けれども正則化の強さ、カーネルの幅、決定木の深さといったハイパーパラメーターが損失関数やモデルの式のどこに効くのかを知らないと、値を変えたときに精度が上がった理由も下がった理由も説明できません。本書の第 3 章と第 4 章では、線形回帰、線形サポートベクトル回帰、ロジスティック回帰、線形サポートベクトル分類の節に予測モデルと損失関数の項目があります。さらに Ridge 回帰と Lasso 回帰による過学習の抑制や、ガウスカーネルの形状と精度パラメーターの項目で、式と実装を対応づけています。仕組みを一度数式で押さえておくと、別の推定器の引数を公式ドキュメントで読むときにも見当がつけやすくなります。

タイタニック、気温、MovieLens を使う実データ分析

第 3 章から第 6 章の例題はボストン市の住宅価格データセットとワインデータセットが中心ですが、第 8 章ではタイタニック、気温、MovieLens のデータセットに切り替わります。タイタニックの節はロジスティック回帰で、気温の節はランダムフォレストで、それぞれデータの入手、概要の把握、加工、モデルの作成という流れを追います。気温の節では消費の予測に向けて、他のデータセットとのマージも扱います。後半の 2 節は協調フィルタリングによるレコメンデーションモデルで、MovieLens を使って User-User と Item-Item の協調フィルタリングを組み、scikit-learn の NearestNeighbors を使う項目まで進みます。前処理はライブラリの使い方よりもデータの性質を読む力が問われる工程なので、整った例題データから実データへ移る並びは、手を動かして学ぶ読者にとって意味があります。

向いている読者と、2019 年刊行の本として読む注意

対象は、Python で scikit-learn を一通り動かしながら、アルゴリズムの式とハイパーパラメーターの関係まで理解したい人です。版元の案内は機械学習の概要を学びたい人向けですが、勾配降下法の計算方法や主成分分析の射影行列の計算ステップといった項目を含むため、数式を読み飛ばさずに追う時間は見込んでおくのが安全です。深層学習は目次になく、ニューラルネットワークを学びたい人には別の本が必要です。2019 年の刊行なので、付属データセットや関数の扱いがライブラリの版の違いで変わっていないか、scikit-learn の公式ドキュメントとあわせて確かめながら進めてください。機械学習の本の選び方全体は 機械学習と深層学習の本の選び方 で整理しています。

表形式のデータで予測モデルを作る仕事に就いた人や、理論書で学んだ手法を実装に移す段階で手が止まっている人にとって、式、コード、実データの分析例、API の整理を 1 冊に揃えた本書は、手元に置いて繰り返し引ける実装の参考書になります。