XAI (説明可能な AI) --そのとき人工知能はどう考えたのか?(エックスエーアイ セツメイカノウナエーアイ ソノトキジンコウチノウハドウカンガエタノカ)

◆ AI の説明責任を果たす ◆
◆◆手法とツールを解説◆◆

AI が出した答について「なぜ?」「どうして、そうなるの?」と問われた開発者は、絶句するほかありません。そこを機械に任せるための機械学習なのですから、「黙って信じてください」と頼みますか?

この難問に対し、人間が納得できそうな理由や根拠を示す技術が「説明可能な AI 」 (eXplainable AI:XAI) です。本書では、実際にどのような「説明」が必要とされ、また、可能なのかを丁寧に解説。代表的な XAI 技術の概要を紹介し、 Python の XAI ライブラリ LIME や SHAP 等の使いこなしを手引き。 AI の業務適用で迫られる「公平性・説明責任・透明性」という 3 つの要求に備えます。
第 1 部■課題設定
第 1 章 AI になぜ「説明」が必要か?

第 2 部■基礎知識
第 2 章 「説明可能な AI 」の概要
第 3 章 XAI の活用方法
第 4 章 様々な XAI 技術
第 5 章 XAI ライブラリの評価・選定

第 3 部■実践指南
第 6 章 LIME による表形式データの局所説明
第 7 章 LIME と Grad-CAM による画像データの局所説明
第 8 章 LIME と Integrated Gradients によるテキスト分類の局所説明
第 9 章 SHAP による局所的・大局的説明と応用
第 10 章 ELI5 、 PDPbox 、 Skater による大局説明
第 11 章 LIME 、 SHAP の苦手シーンと解決策

第 4 部■将来展望
第 12 章 業務で求められる説明力
第 13 章 これからの XAI
付録 環境構築の手順

機械学習モデルの予測精度が上がるほど、「なぜその予測になったのか」を人間が説明できなくなるという矛盾が生じます。医療診断、与信判断、自動運転など、判断理由の開示が求められる領域でこのブラックボックス問題は避けて通れません。本書は説明可能な AI (XAI) の主要手法を体系的にまとめた日本語書籍です。

LIME 、 SHAP 、 Grad-CAM 、 Attention の可視化など、モデルの判断根拠を事後的に解釈するための代表的な手法を、理論的な背景と Python での実装例を交えて解説します。手法ごとの長所と限界も整理されているため、「どの場面でどの説明手法を選ぶか」という実務上の判断軸を得られます。

想定読者としては、すでに機械学習モデルの構築経験があり、予測結果をステークホルダーに説明する必要のあるデータサイエンティストやエンジニアに適しています。モデル構築そのものの入門書ではないため、 scikit-learn や深層学習フレームワークを一通り扱える前提で読む方が内容を活かしやすいでしょう。 AI の社会実装が進むにつれ重要性を増す分野を、一冊で俯瞰できる構成になっています。