実践 XAI［説明可能な AI］ 機械学習の予測を説明するための Python コーディング

ビジネス上の意思決定につながる機械学習の予測には、解釈・説明が求められます。そこで、そうした解釈・説明を行うための手法を紹介します。実際に LIME、SHAP、Skater、ELI5 といった種々の Python ライブラリを使い、モデルがなぜそのように予測するのかを探っていきます。予測モデルとして、線形・非線形モデルのほか、アンサンブルモデル、時系列モデル、自然言語処理、ディープラーニング、コンピュータビジョンを取り上げます。本書は解釈・説明のための方法を包括的に取り上げており、機械学習を実際の現場で活用する方にぜひ手に取っていただきたい一冊です。

機械学習モデルの予測をビジネスの意思決定に使うには、精度だけでなく「なぜその予測になったのか」を示せることが求められます。『実践 XAI〈説明可能な AI〉 機械学習の予測を説明するための Python コーディング』 (Pradeepta Mishra 著、株式会社クイープ 訳、インプレス、2023 年 6 月刊) は、その説明を行う手法を LIME、SHAP、Skater、ELI5 といった Python ライブラリを実際に使いながら学ぶ翻訳書で、原題は Practical Explainable AI Using Python、シリーズは impress top gear です。版元の紹介文は、線形 / 非線形モデルのほか、アンサンブルモデル、時系列モデル、自然言語処理、ディープラーニング、コンピュータビジョンを予測モデルとして取り上げ、解釈 / 説明のための方法を包括的に扱うと述べています。著者は刊行時の紹介で L&T Infotech の Head of AI Data Products とされ、データ製品向けの AI 機能を構築するチームを率いる実務家です。

全 14 章の構成、線形モデルからコンピュータビジョンの説明まで

構成は全 14 章です。第 1 章「モデルの説明可能性と解釈可能性」で二つの概念を区別し、第 2 章「AI の倫理、偏見、信頼性」で説明が必要になる社会的な文脈を押さえます。第 3 章から第 7 章は線形モデル、非線形モデル、アンサンブルモデル、時系列モデル、自然言語処理と、モデルの種類ごとに説明可能性を扱う章が並び、第 8 章「What-If シナリオを使ったモデルの公平性」で公平性の検証に進みます。第 9 章「ディープラーニングモデルの説明可能性」以降は、第 10 章「XAI モデルの反実仮想説明」、第 11 章「機械学習での対比的説明」、第 12 章「予測不変性の特定によるモデル不可知の説明」、第 13 章「ルールベースのエキスパートシステムでのモデルの説明可能性」、第 14 章「コンピュータビジョンでのモデルの説明可能性」と、説明の与え方そのものを主題にした章が続きます。モデル種別の縦軸と説明手法の横軸の両方から章が組まれているのが、この本の目次の特徴です。

SHAP と LIME が答える問い、説明可能性が求められる背景

説明可能性の技術は、大きく二つの発想に分かれます。一つは線形回帰や決定木のように構造そのものが読めるモデルを使う「解釈可能なモデル」の路線、もう一つは勾配ブースティングや ディープラーニング のように内部が読みにくいモデルの予測を、外側から事後的に説明する路線です。本書の中心にある LIME と SHAP は後者に属します。LIME は説明したい一つの入力の周辺でデータを揺らし、その近傍だけを近似する単純なモデルを当てて、どの特徴量が予測を押し上げたかを局所的に示します。SHAP は協力ゲーム理論のシャープレイ値を特徴量の寄与に読み替え、基準となる予測値からの差を各特徴量へ公平に配分する枠組みで、木構造のモデルには高速な専用計算が用意されています。どちらも「モデルが何を根拠にしたか」を示すものであって、「その特徴量が結果の原因である」ことを保証するわけではなく、説明の安定性やベースラインの選び方によって見え方が変わります。この限界を理解した上で使い分けることが、与信や医療のように説明責任を問われる領域でモデルを運用する前提になります。第 10 章と第 11 章が章題に掲げる反実仮想説明と対比的説明は、入力をどう変えれば結果が変わるかを示す別の切り口で、一般に利用者へ次に取れる行動を伝える説明として使われます。

前提知識と、2023 年刊の翻訳書として読むときの注意

版元は機械学習を実際の現場で活用する人に向けた本と位置づけており、Python でモデルを学習させて評価した経験があると読み進めやすい内容です。数式の導出を追う本ではなく、ライブラリを使って説明を出力し読み解く実践に重心があるため、理論の厳密な証明を求める読者には物足りない可能性があります。また 2023 年 6 月刊行時点のライブラリを前提にしているので、各ライブラリの API や出力形式がその後の版で変わっている場合は、公式ドキュメントで差分を確認しながらコードを追う必要があります。機械学習の入門段階にいる人は、機械学習 / ディープラーニング本ガイド にあるハンズオン本でモデル構築を先に経験してから本書へ進む順序が無理がありません。

投じた時間と金額の回収が早いのは、すでにモデルを作れるようになったデータサイエンティストや機械学習エンジニアで、審査や診断のように予測の理由を利用者や監督部門に説明する場面を抱えている人です。表形式データだけでなく時系列、テキスト、画像のモデルまで説明手法を一冊で横断できる本は少なく、現場で「このモデルはなぜこう判断したのか」と問われる立場の人には、手元に置く価値のある実践書です。