機械学習 1. 入門的基礎／パラメトリックモデル(キカイガクシュウイチニュウモンテキキソパラメトリックモデル)

本書は、古典機械学習ともよぶべき題材に的を絞り、考え方をできるだけ詳細に記述した教科書である。読者の便宜を考慮し、 500 頁にも及ぶ 1 冊を分冊化させ、 1 巻目では「入門的基礎／パラメトリックモデル」、 2 巻目では「ノンパラメトリックモデル／潜在モデル」、 3 巻目では「数学事項:機械学習のいしずえ／演習問題解答例」を掲載している。

本書では、機械学習全体の網羅や、深層学習を中心に据えた説明は意図していない。大量のデータが存在する対象、あるいはその近傍の対象に対しては、深層学習はきわめて高性能を発揮する。しかし、少数のデータしか得ることができない対象も多く、本書で紹介する古典的な機械学習の手法は、今後も随所で活躍するであろう。とりわけ、ベイズ的な考え方は、予測の損失最小を保証するという意味で重要である。多くの大学理工系の学部で、初年次あるいは 2 年次に学ぶ多変数の微積分や、固有値問題の基本をふくむ線形代数、それと確率と統計の基本事項は既知としているが、確率と統計や、対称行列に関する固有値問題などの数学的事項の要点は、第 5 部 (第 3 巻) としてまとめた。

本書は多くの優れた書籍を参照して書かれ、とりわけ、 C. M. ビショップ (著) ,『パターン認識と機械学習』の影響は随所にみられる。数学的記法も同書に準拠した。また、構成は、 K. P. Murphy, “ Probabilistic Machine Learning: An Introduction ”の影響をうけている。 Murphy の本では深層学習を 1 つの部としているが、本書では深層学習の部はもうけず、ニューラルネットワークの基礎的事項をパラメトリックモデルの部 (第 1 巻) へ、また、深層生成モデル (の 1 つである VAE) を潜在モデルの部 (第 2 巻) へおいた。ベイズ推論の重要性に鑑み、潜在モデルを第 4 部としたことは本書の特徴の 1 つである。

各章には演習問題、巻末には解答例と丁寧な解説を掲載 (解答例は第 3 巻に収録) 。

機械学習をライブラリの使い方ではなく数理の側から学びたい人に向けた、共立出版の教科書シリーズ第 1 巻です。確率分布、パラメータ推定、最尤法、ベイズ推定といったパラメトリックモデルの基礎を、定義と証明を丁寧に追いながら解説します。著者の岡留剛氏は大学で統計的学習理論を教えてきた研究者であり、記述は数学的に厳密ですが、式変形の省略が少なく行間を自力で埋める負荷は抑えられています。

位置づけとしては、 Bishop の PRML (パターン認識と機械学習) に挑む前の助走路に当たります。 PRML が幅広い手法を一冊で駆け抜けるのに対し、本書はパラメトリックモデルに範囲を絞って深く掘り下げるため、一つひとつの概念を腰を据えて理解したい読者に向きます。線形代数と微積分の基礎 (大学 1 〜 2 年程度) が前提知識として必要です。

実装コードは含まれないため、手を動かして覚えたい人にはこの本だけでは足りません。理論を本書で固め、実装は別の実践寄りの書籍や演習課題で補完する使い方が効果的です。数式を読み解く力をつけたい大学院進学前の学部生や、フレームワーク操作の裏にある確率論を正面から学び直したいエンジニアに適しています。