機械学習を解釈する技術〜予測力と説明力を両立する実践テクニック

機械学習の研究開発が急速な勢いで進んでいます。理論研究はもちろん、機械学習手法が実装されたオープンソースのパッケージ開発も進み、それらを実務で利用するためのノウハウも蓄積されてきています。結果として、機械学習をはじめたばかりの入門者でも比較的高い精度の予測モデルを構築できるようになりました。
Deep Learning, Gradient Boosting Decision Tree, Random Forest などの機械学習モデルは高い予測精度を誇りますが、モデルの解釈性が低いという欠点があります。これらの複雑なブラックボックスモデルにおいて、モデルがなぜそのような予測を行っているのかを知ることは困難ですが、データ分析者自身がモデルの振る舞いを把握し、説明責任を果たすことを実務においては頻繁に求められます。
本書では、このような予測精度と解釈性のトレードオフを克服するための手法について、実務において特に有用と考えるものを厳選して紹介します。本書の構成は以下になります。

1 章: 機械学習の解釈性とは
2 章: 線形回帰モデルを通して「解釈性」を理解する
3 章: 特徴量の重要度を知る Permutation Feature Importance
4 章: 特徴量と予測値の関係を知る Partial Dependence
5 章: インスタンスごとの異質性を捉える Individual Conditional Expectation
6 章: 予測の理由を考える SHapley Additive exPlanations
付録 A: R による分析例 tidymodels と DALEX で機械学習モデルを解釈する~
付録 B: 機械学習の解釈手法で線形回帰モデルを解釈する

2 章では極めて高い解釈性を誇る線形回帰モデルを通して、予測モデルに求められる解釈性について説明します。以降の 4 つの章では、それらの解釈性をブラックボックスモデルに与える PFI, PD, ICE, SHAP と呼ばれる手法について解説します。
本書は機械学習の解釈手法を実用して頂くことを目的としています。Python でゼロから手法を実装することを通じて解釈手法のアルゴリズムを理解し、実データの分析を通じて解釈手法の勘所を押さえて頂きます。機械学習の解釈手法は強力な反面、使い方を誤ると間違った結論を導いてしまう危険もあります。本書では解釈手法を実用する際の注意点についても丁寧に触れています。

『機械学習を解釈する技術 〜予測力と説明力を両立する実践テクニック』 (森下 光之助 著、技術評論社、2021 年 8 月刊) は、精度は高いが中身の見えない予測モデルについて、なぜその予測になったのかを説明するための解釈手法を、Python での実装と実データの分析を通じて学ぶ書籍です。扱う手法は PFI、PD、ICE、SHAP の 4 つで、版元はこの本の読者として機械学習エンジニア、データサイエンティスト、それらの職を志望する学生を挙げています。モデルを作れるようになった後、その振る舞いを説明する責任を負う段階の人に向けた一冊です。

線形回帰から SHAP まで、全 6 章と付録 2 本の構成

1 章は機械学習の解釈性とは何かを扱い、解釈性が必要な理由、予測精度と解釈性のトレードオフ、解釈手法を使う際の注意点に加え、本書に書いていること、書いていないことを明示しています。2 章では解釈性の高い線形回帰モデルを題材に、特徴量と予測値の平均的な関係、インスタンスごとの関係、特徴量の重要度、インスタンスごとの予測の理由という 4 つの解釈の切り口を確認します。この 4 つの切り口が、3 章以降の手法に対応します。3 章は Permutation Feature Importance で特徴量の重要度を、4 章は Partial Dependence で特徴量と予測値の関係を、5 章は Individual Conditional Expectation でインスタンスごとの異質性を、6 章は SHapley Additive exPlanations で個々の予測の理由を扱います。付録 A は R 言語 の tidymodels と DALEX を使った分析例、付録 B は各解釈手法で線形回帰モデルを解釈したときの関係を、数式とシミュレーションで比較する内容です。

ゼロから実装することで見えてくる、解釈手法の落とし穴

版元の紹介文が強調するのは、解釈手法は強力な反面、使い方を誤ると間違った結論を導く危険があるという点です。たとえば特徴量の重要度や PD のグラフは、モデルが予測の際に何に頼っているかを示すものであって、現実の世界での原因と結果を示すものではありません。目次にも、特徴量重要度や PD を因果関係として解釈できるかを問う節、疑似相関のシミュレーション、特徴量どうしが相関するケースや交互作用で PD が平均をとることの限界を扱う節が並んでいます。SHAP は協力ゲーム理論の Shapley 値を予測の分解に応用した手法で、6 章ではアルバイトを題材にしたゲームの例から限界貢献度、Shapley 値の数式表現へと順に進みます。shap などのパッケージを呼び出せばグラフ自体はすぐに描けますが、アルゴリズムを自分で一度実装しておくと、グラフの形がどの計算から生まれたのかを説明でき、誤読を防ぎやすくなります。

前提知識と、読む前に確かめたいこと

前提としては、Python で pandas や scikit-learn 系の分析コードを読み書きでき、回帰や Random Forest のような教師あり学習のモデルを一度は自分で学習させた経験があると読みやすくなります。1 章で数式の記法として期待値や分散、確率分布、線形回帰モデルを整理しているとおり、本文には数式も登場するため、学部初年級の確率と統計に触れていると理解が早くなります。一方で、機械学習そのものを基礎から学びたい人、深層学習の画像やテキストのモデルに特化した説明手法を求める人には、扱う範囲が合いません。機械学習の本を目的別に選び直したいときは 機械学習とディープラーニングの本の選び方 が手がかりになります。

版元の著者紹介によれば、著者は大学院で計量経済学を用いた実証分析を学び、機械学習を用いたデータ分析の実務に携わってきた人物です。予測モデルを業務の意思決定に使う場面で、なぜその予測になったのかを関係者に説明しなければならない人、データサイエンス の実務で解釈手法のグラフを根拠として示す機会がある人にとって、本書は手法の仕組みと限界をまとめて押さえられる、投資に見合う一冊です。