スモールデータ解析と機械学習

スモールなデータの解析手法・ノウハウが身につく!
人工知能によるビッグデータ解析が近年、広く注目されています。しかし、製造メーカなどのほとんどの一般企業においてはデータ量が少なかったり偏っていたりする、スモールデータがデータの中心です。本書はそのようなスモールデータの解析手法を解説するものです。
Web データや気象データに代表されるようなビッグデータが注目される一方で、機械の故障データのように発生自体がまれであったり、臨床データのように倫理的な問題からデータ収集が困難、あるいはラベリングが専門家以外困難で教師データが集まらなかったりするスモールなデータ、すなわちスモールデータが存在します。
これらのデータは測定されている変数の数に比べて統計モデリングに必要なデータが不足していたり、正負双方のサンプルが必要となる分析において、その取得が困難といったような問題があり、そのままビッグデータの考え方を適用するのは適当ではありません。
本書は、はじめにスモールデータとは何かから、データの作り方となる次元削減と回帰分析の手法、つづいてスパースなデータのモデリング、クラスタリング、不均衡なデータの解析手法、異常検出を述べていきます。そして最後にスモールデータの解析においてのポイント・考え方を述べて、読者がスモールデータを有効に解析できるようになるようまとめました。
第 1 章 スモールデータとは
第 2 章 相関関係と主成分分析
第 3 章 回帰分析と部分的最小二乗法
第 4 章 線形回帰モデルにおける入力変数選択
第 5 章 分類問題と不均衡データ問題
第 6 章 異常検知問題
第 7 章 データ収集や解析の心構え

機械学習の手法の多くは、学習に使えるサンプルが十分にあることを前提に組み立てられています。藤原 幸一 著『スモールデータ解析と機械学習』 (オーム社、2022 年 2 月発売) は、その前提が成り立たないデータを「スモールデータ」と呼び、その解析手法を解説する本です。版元の紹介では、発生自体がまれな機械の故障データ、倫理的な制約で集めにくい患者の検査データ、専門家でないと判読が難しいデータが例に挙がります。こうしたデータは測定している変数の数に比べてサンプルが足りなかったり、クラスごとのサンプル数が極端に偏っていたりするため、深層学習のようなビッグデータの方法をそのまま当てはめるのは適当ではなく、別のアプローチが要るというのが本書の出発点です。機械学習 を現場のデータに当てはめようとして、データ量の壁に突き当たった人に向けた一冊です。

全 7 章の構成、PCA と PLS から異常検知まで

第 1 章「スモールデータとは」で対象を定義したあと、第 2 章で相関関係と主成分分析 (PCA)、第 3 章で回帰分析を扱います。版元の詳細目次を見ると、第 3 章は最小二乗法から多重共線性の問題、サンプル数が入力変数の数よりも少ない場合、主成分回帰 (PCR)、リッジ回帰へと進み、部分的最小二乗法 (PLS) の導出と NIPALS アルゴリズムに多くの節を割いています。版元の紹介文も PLS をスモールデータ解析の大きな武器と位置づけています。第 4 章は線形回帰モデルにおける入力変数選択で、AIC、ステップワイズ法、Lasso 回帰に加え、相関関係に基づいた変数クラスタリングによる入力変数選択を扱います。第 5 章が分類問題と不均衡データ問題、第 6 章が異常検知問題、第 7 章が「データ収集や解析の心構え」で、付録には標本分散と母分散、LARS アルゴリズム、主成分分析と自己符号化器の関係などの補足が置かれています。

サンプルが少ないと何が難しいのか、本書の手法の位置づけ

変数の数がサンプル数を上回ると、通常の最小二乗法では回帰係数が一意に定まりません。変数どうしが強く相関している場合も、係数が大きく揺れて解釈も予測も不安定になります。これが多重共線性の問題です。主成分回帰や PLS は、元の変数を少数の潜在変数へまとめてから回帰することでこの不安定さを抑えます。PCA が入力のばらつきだけを見て方向を決めるのに対し、PLS は出力との共分散が大きくなる方向を選ぶため、予測に効く情報を少ない成分に集めやすいという違いがあります。第 3 章にディーゼル燃料の物性推定、第 4 章に NIR スペクトルの検量線入力波長選択という例が置かれているのは、波長の数がサンプル数を大きく上回る分光分析がこの種の問題の典型だからだと読めます。

不均衡データでも難しさの性質は似ています。故障や疾患のような少数側のクラスがごくわずかしかないと、多数側を当てるだけで正解率は高く見えてしまいます。第 5 章は線形判別分析を土台に、ROC 曲線と AUC による評価、ランダムアンダーサンプリングやトメクリンク、SMOTE や ADASYN といったサンプリング手法、バギングとランダムフォレスト、AdaBoost などのアンサンブル学習を扱い、ケーススタディで締めます。第 6 章の異常検知は、異常の例がほとんど手に入らない前提で、局所外れ値因子法 (LOF)、アイソレーションフォレスト、多変量統計的プロセス管理 (MSPC) の T^2 統計量と Q 統計量、オートエンコーダを取り上げ、化学プロセスのベンチマークとして知られる Tennessee Eastman プロセスで異常検知と異常診断を示します。MSPC は製造の品質管理で長く使われてきた多変量の 統計学 の手法で、ニューラルネットワークを使うオートエンコーダと同じ章で扱われている点が本書の特色です。

製造や医療の現場でデータを扱う技術者に向く理由

版元は、製造ラインや医療現場などでデータの解析を行う技術者や研究者を第一の読者に挙げ、データサイエンス系の技術者、研究者、学生にも勧めています。詳細目次には第 1 主成分の導出、PCA の行列表現と特異値分解、PLS と固有値問題、線形判別分析とレイリー商といった節が並ぶため、行列と固有値、分散と相関といった線形代数と統計の基礎があると読み進めやすい構成です。数式に不安がある場合は、先に 機械学習に必要な数学 を補っておくと負担が減ります。第 7 章は PICO、現地現物と三現主義、現場とのコミュニケーション、解析データセット構築の責任といった話題を扱い、手法を選ぶ前にデータを使って何をやりたいのかを問い直す内容になっています。

一方で、画像や文章を大量に集めて深層学習のモデルを訓練する方法を学びたい場合は、本書の主題から外れます。逆に、数十から数百の単位でしか集まらない測定値や、めったに起きない故障の記録を前に、どの手法なら過学習を避けて意味のある結論を出せるのかを考えている人にとっては、回帰、変数選択、分類、異常検知を一続きで見渡せる本書は手元に置く価値のある一冊です。