スパース回帰分析とパターン認識(スパースカイキブンセキトパターンニンシキ)

R も数理もていねいに!

データ解析の標準的ツールとなったスパース回帰分析、判別分析、深層学習、サポートベクターマシン、ランダムフォレストなどを R コードとともに解説。深層学習は R のパッケージ keras で実装。具体例も豊富で実用性も高い! また、選ばれたモデルへの理解などの発展的な内容まで踏み込んだ。

【主な内容】
1 章 回帰モデルとスパース推定
2 章 統計手法によるパターン認識
3 章 深層学習
4 章 機械学習によるパターン認識

【「巻頭言」より抜粋】
文部科学省は「数理及びデータサイエンスに係る教育強化拠点」 6 大学 (北海道大学、東京大学、滋賀大学、京都大学、大阪大学、九州大学) を選定し、拠点校は「数理・データサイエンス教育強化拠点コンソーシアム」を設立して、全国の大学に向けたデータサイエンス教育の指針や教育コンテンツの作成をおこなっています。
本シリーズは、コンソーシアムのカリキュラム分科会が作成したデータサイエンスに関するスキルセットに準拠した標準的な教科書シリーズを目指して編集されました。またコンソーシアムの教材分科会委員の先生方には各巻の原稿を読んでいただき、貴重なコメントをいただきました。
データサイエンスは、従来からの統計学とデータサイエンスに必要な情報学の二つの分野を基礎としますが、データサイエンスの教育のためには、データという共通点からこれらの二つの分野を融合的に扱うことが必要です。この点で本シリーズは、これまでの統計学やコンピュータ科学の個々の教科書とは性格を異にしており、ビッグデータの時代にふさわしい内容を提供します。本シリーズが全国の大学で活用されることを期待いたします。
ーー編集委員長 竹村彰通 (滋賀大学データサイエンス学部学部長、教授)

【推薦の言葉】
データサイエンスの教育の場や実践の場で利用されることを強く意識して、動機付け、題材選び、説明の仕方、例題選びが工夫されており、従来の教科書とは異なりデータサイエンス向けの入門書となっている。
ーー北川源四郎 (東京大学特任教授、元統計数理研究所所長)

国を挙げて先端 IT 人材の育成を迅速に進める必要があり、本シリーズはまさにこの目的に合致しています。本シリーズが、初学者にとって信頼できる案内人となることを期待します。
ーー杉山将 (理化学研究所革新知能統合研究センターセンター長、東京大学教授)
1 章 回帰モデルとスパース推定
1.1 回帰モデルと正則化法
1.2 ラッソとその性質
1.3 高次元データに対するラッソ推定量の非漸近的性質
1.4 ラッソ型の正則化法
1.5 モデル選択
1.6 補足

2 章 統計手法によるパターン認識
2.1 判別分析の実例
2.2 ベイズ判別法と誤判別確率
2.3 2 群の場合の多次元正規分布によるベイズ判別ルール
2.4 多群の場合のベイズ判別法
2.5 ロジスティック判別
2.6 その他の判別方法

3 章 深層学習
3.1 深層ニューラルネットワーク
3.2 効率よくパラメータを推定するためのテクニック
3.3 畳み込みニューラルネットワーク
3.4 生成モデル

4 章 機械学習によるパターン認識
4.1 サポートベクターマシン
4.2 ランダムフォレスト
4.3 アダブースト

高次元データを扱う場面で「本当に効いている変数はごく一部ではないか」という直感を数学的に定式化するのがスパースモデリングです。本書は講談社の「機械学習プロフェッショナルシリーズ」の一冊として、 LASSO に代表されるスパース回帰の理論と、それをパターン認識タスクへ応用する道筋を体系的に論じています。

L1 正則化によるスパース推定、非凸正則化、グループ LASSO 、 Elastic Net といった手法の定式化と解法アルゴリズムを数式で追いかけていく構成です。理論的な性質 (一致性、オラクル性) にも踏み込むため、線形代数・確率論・最適化の基礎が読者に要求されます。著者の梅津佑太氏らは統計学・機械学習の研究者で、数理的な厳密さを維持しながらも、なぜその正則化が必要なのかという動機を丁寧に提示しています。

入門書ではありません。機械学習の基礎を一通り終えた大学院生や研究者が、スパース性を利用したモデリングの理論的背景を深く理解したいときに読む本です。実装レシピを求める読者よりも、手法の選択根拠を数学で説明できるようになりたい人に向いています。