AI ・データ倫理の教科書(エーアイ　データリンリノキョウカショ)

社会で受け入れられる AI の作り方を徹底分析!

リクナビ事件、 Yahoo!スコア事件、破産者マップ事件、 AI チャットボットや顔認識技術ーー。
深層学習などの AI 技術の発展により、 AI が社会の様々な場面で用いられるようになりました。同時に、 AI の普及に伴って社会問題が生じ、 AI を使った製品・サービスに対して、法律には違反しないものの、倫理的に問題があるとして、社会から厳しい批判がされるケースも増えています。
これらの問題に対応するため、日本や諸外国の政府や民間団体は活発な議論を行い、 AI 倫理原則を定めています。
本書ではこれらの AI 倫理原則を体系化して、 AI とデータに関する倫理 (AI 倫理) の基本的な考え方と実際の事例を整理します。実際の失敗事例を数多く検討することで、同じような失敗を避けることにもつながります。
ソニー、日本マイクロソフト、メルカリ、富士通の担当者の方による取組みの紹介など、 AI を使った製品・サービスを社会に提供する企業の方も必読です。
第 1 章 倫理の判断枠組み
1 はじめに／ 2 倫理とは何か／ 3 倫理についての判断枠組み
第 2 章 各国の AI 倫理原則
1 はじめに／ 2 AI 倫理原則の世界的動向／ 3 AI 倫理原則に見られる共通点
第 3 章 AI ・データ倫理が問題となった事例
1 はじめに／ 2 人間の尊重／ 3 公平性／ 4 プライバシーの尊重／ 5 アカウンタビリティ／ 6 透明性／ 7 人間の判断の関与／ 8 安全性・セキュリティ／ 9 多様性・包摂性の確保／ 10 サスティナビリティ (持続可能性) ／ 101 まとめ
第 4 章 AI 倫理に対する企業の取組み
1 AI 倫理に関するソニーの取組み (ソニーグループ株式会社 法務部 法務グループ 有坂陽子)
2 マイクロソフトの責任ある AI の取組み (日本マイクロソフト株式会社 業務執行役員 政策渉外・法務本部 副本部長 弁護士 舟山聡)
3 メルカリの取組み (株式会社メルカリ 会長室 政策企画 松橋智美)
4 富士通における AI ガバナンス (富士通株式会社 AI 倫理ガバナンス室長 荒堀淳一)

法律には違反していないのに、社会からの批判でサービスが立ち行かなくなる。 AI とデータの利用には、この「適法だが不適切」という独特の失敗類型があります。『 AI ・データ倫理の教科書』は、刊行時点の肩書で西村あさひ法律事務所パートナー弁護士・ニューヨーク州弁護士の福岡真之介氏が、この領域を体系立てて学べるようにまとめた教科書で、 2022 年 6 月に弘文堂から刊行されました。リクナビ事件、 Yahoo!スコア事件、破産者マップ事件といった実際に問題化した事例の分析を柱に、 AI 倫理の考え方と企業実務をつなぐ一冊です。

適法でも批判される、 AI 倫理が問われる技術背景

AI 倫理が法律とは別の領域として必要になるのには、技術側の理由があります。機械学習は過去のデータからパターンを学ぶため、データに含まれる偏りをそのまま判定に持ち込み、増幅することがあります (公平性の問題) 。また深層学習を使ったモデルは判断の根拠を人間に説明しにくく、不利益を受けた人への説明責任が果たしづらくなります (透明性とアカウンタビリティの問題) 。こうした性質は法令への準拠だけでは拾いきれず、コンプライアンスを満たしていても社会の期待を裏切れば厳しい批判を招きます。本書の出発点は、まさにこの「法と社会の期待のずれ」をどう判断するかという問いです。

全 4 章の構成、判断枠組みから失敗事例の原則別分析へ

構成は全 4 章です。第 1 章で倫理とは何か・どう判断するかという枠組みを示し、第 2 章で日本や諸外国の政府・民間団体が定めてきた AI 倫理原則の世界的動向と共通点を整理します。中核は第 3 章の事例分析で、人間の尊重、公平性、プライバシーの尊重、アカウンタビリティ、透明性、人間の判断の関与、安全性・セキュリティ、多様性・包摂性の確保、サスティナビリティという原則ごとに、実際に問題となった事例を分類し、何がまずかったのかを検討していきます。原則の抽象論と個別の炎上事例を相互に往復させる作りなので、読み終えたときに「新しい事例に出会っても、どの原則の問題かを自分で仕分けられる」状態を目指せます。

ソニー・富士通など企業の取組みの章と 2022 年時点という前提

第 4 章では、ソニー、日本マイクロソフト、メルカリ、富士通の担当者が自社の AI 倫理・ガバナンスの取組みを紹介しており、原則論が企業の体制づくりへどう落ちるのかまで見通せます。読む際に押さえたいのは時点です。本書は 2022 年 6 月の刊行で、同年 11 月に始まる ChatGPT 以降の生成 AI の普及や、 2024 年に EU で成立した包括的な AI 規制法より前の議論を土台にしています。原則レベルの整理は古びにくい一方、各国の制度動向の記述は 2022 年時点のスナップショットとして読み、その後の法制化の動きは別途補う必要があります。

AI サービスの企画・開発・法務担当者への向き不向き

本書が合うのは、 AI を使った製品・サービスを世に出す立場の企画・開発担当者、法務・ガバナンス部門の実務者、そして倫理面の判断軸を持ちたい機械学習エンジニアです。目次からうかがえるとおり本書の軸は数理ではなく倫理原則と事例分析なので、技術的な前提知識がなくても読み進められます。読了後には、炎上事例を原則に引きつけて説明する語彙と、社内でガバナンス体制を議論するための共通言語が手に入ります。一方、機械学習そのものを実装レベルで学びたい人には別の本が適していて、機械学習やディープラーニングの本の選び方から入る方が近道です。 AI と社会の関わりを哲学として深掘りしたい人にはやや実務寄りに映るかもしれませんが、事例で判断力を鍛える教科書としては手堅い選択です。