XAI (説明可能な AI) --そのとき人工知能はどう考えたのか?(エックスエーアイ セツメイカノウナエーアイ ソノトキジンコウチノウハドウカンガエタノカ)

◆ AI の説明責任を果たす ◆
◆◆手法とツールを解説◆◆

AI が出した答について「なぜ?」「どうして、そうなるの?」と問われた開発者は、絶句するほかありません。そこを機械に任せるための機械学習なのですから、「黙って信じてください」と頼みますか?

この難問に対し、人間が納得できそうな理由や根拠を示す技術が「説明可能な AI 」 (eXplainable AI:XAI) です。本書では、実際にどのような「説明」が必要とされ、また、可能なのかを丁寧に解説。代表的な XAI 技術の概要を紹介し、 Python の XAI ライブラリ LIME や SHAP 等の使いこなしを手引き。 AI の業務適用で迫られる「公平性・説明責任・透明性」という 3 つの要求に備えます。
第 1 部■課題設定
第 1 章 AI になぜ「説明」が必要か?

第 2 部■基礎知識
第 2 章 「説明可能な AI 」の概要
第 3 章 XAI の活用方法
第 4 章 様々な XAI 技術
第 5 章 XAI ライブラリの評価・選定

第 3 部■実践指南
第 6 章 LIME による表形式データの局所説明
第 7 章 LIME と Grad-CAM による画像データの局所説明
第 8 章 LIME と Integrated Gradients によるテキスト分類の局所説明
第 9 章 SHAP による局所的・大局的説明と応用
第 10 章 ELI5 、 PDPbox 、 Skater による大局説明
第 11 章 LIME 、 SHAP の苦手シーンと解決策

第 4 部■将来展望
第 12 章 業務で求められる説明力
第 13 章 これからの XAI
付録 環境構築の手順

機械学習モデルの予測を業務に使い始めると、必ず「なぜこの結果になったのか」と問われる日が来ます。審査に落ちた顧客への説明、監査対応、経営層への報告。『 XAI (説明可能な AI) そのとき人工知能はどう考えたのか?』 (大坪直樹・中江俊博ほか著、リックテレコム、 2021 年 7 月刊) は、その問いに技術で答えるための実務書です。扱うのは説明可能な AI (eXplainable AI = XAI) 、すなわちブラックボックスになりがちなモデルの判断に、人間が納得できる根拠を与える一連の手法です。

実務の導線に沿った 4 部 13 章の構成

構成は 4 部 13 章で、実務の導線に沿っています。第 I 部の課題設定で「 AI になぜ説明が必要か」をビジネス要件として整理し、第 II 部の基礎知識で XAI の概要、活用方法、代表的な技術を俯瞰します。第 III 部が実践編で、 Python の定番ライブラリ LIME と SHAP の使いこなしに踏み込み、それぞれの苦手なシーンと解決策まで扱うのが本書の実務的なところです。第 IV 部は業務で求められる説明力とこれからの XAI という将来展望で締め、付録に環境構築の手順が付きます。

公平性・説明責任・透明性という背景

XAI が単なる技術的な興味ではなく必須知識になった背景には、 AI の業務適用で問われる公平性・説明責任・透明性という 3 つの要求があります。特に金融の与信や採用のような人の人生に関わる判断へ機械学習を使う場合、精度の数字だけでは導入の稟議も監査も通りません。特徴量が予測にどう寄与したかを個別の予測単位で示せる SHAP のような手法は、モデルのデバッグ (思わぬ特徴量への依存の発見) にも効くため、説明のためだけでなくモデル品質の改善サイクルにも組み込まれていきます。この「対外説明と自分のための解釈の両輪」を、日本語の書籍で実装込みに学べるのが本書の価値です。

対象読者と前提知識

対象は、機械学習モデルを業務で構築・運用している データサイエンティスト や機械学習エンジニア、そしてモデルの説明責任を負う立場のマネージャーです。 Python と 機械学習の基礎 (モデルの学習と評価の経験) は前提になります。刊行は 2021 年で、その後 LLM の説明可能性という新しい論点も生まれましたが、表形式データのモデルに対する LIME ・ SHAP という道具立ては実務の主力であり続けており、内容の実用性は保たれています。「モデルの精度は出せるが、説明を求められると困る」段階のチームにとって、次の一歩を具体化してくれる一冊です。