あなたを支配し、社会を破壊する、AI・ビッグデータの罠

:::: AI・ビッグデータの暴走を止めよ! ::::

全米を、世界を、震わせた人類への警鐘

★「必読です!」
ーー新井紀子 (『AI vs. 教科書が読めない子どもたち』)
待望の邦訳。ビッグデータと AI の被害に遭うのは「あなた」かもしれない

★「年間ベストブック」
ーーユヴァル・ノア・ハラリ (『サピエンス全史』)
魅了され、深く心をかき乱される 『ガーディアン』紙

いまや AI・ビッグデータは、人間の能力・適性・信用、
さらには善悪や身体までも評価し、選別し始めた。

問題は、こうした AI・ビッグデータの仕組みや活用法の多くが、
偏見や誤りなどであふれていることだ。

中立・公正のように見えるアルゴリズムにも、
作り手の「見解」や「目的」が埋め込まれている。

数値化しにくいリアルな世界の複雑さや公平性を欠いたまま、
効率・収益を優先するアルゴリズムによって私たちの生活・社会が導かれていく。

さらに信用格付けが下がるなど、アルゴリズムによる評価を落とすと、
他分野にも影響がおよび、悪循環のフィードバックループが待っている。

私たちは、こうした破壊的な AI・ビッグデータとは何かを知り、
変えていくことによって、主導権を人間に取り戻さなくてはならない。

★ 世界的ベストセラー、年間ベストブック & 賞、多数!

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

::著者:: キャシー・オニール
データサイエンティスト。ハーバード大学で数学の博士号を取得。
バーナードカレッジ教授を経て、企業に転職し、金融、リスク分析、e コマースなどの
分野で、アルゴリズム作成などに従事。
ブログ「mathbabe」を開き、「ORCAA (オニール・リスク・コンサルティング & アルゴリズム・オーディティング)」を創設。

::訳者:: 久保尚子
翻訳家。IT 企業勤務を経て、翻訳業に従事。訳書にスティーヴ・ロー『データサイエンティストが創る未来』、
マイケル・ブルックス & サイモン・ブラックバーン『ビッグクエスチョンズ 物理』など。
はじめに: AI・ビッグデータは破壊兵器になる
第 1 章［モデル］ 良いモデル、悪いモデル
第 2 章［内幕］ データビジネスの恐るべき真実
第 3 章［教育］ 大学ランキング評価が多様性を奪う
第 4 章［宣伝］ 弱みにつけこむオンライン広告
第 5 章［正義］ 「公平」が「効率」の犠牲になる
第 6 章［就職］ ふさわしい求職者でも落とされる
第 7 章［仕事］ 職場を支配する最悪のプログラム
第 8 章［信用］ どこまでもついて回る格付け評価
第 9 章［身体］ 行動や健康のデータも利用される
第 10 章［政治］ 民主主義の土台を壊す
おわりに: 人間だけが未来を創造できる

『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』 (キャシー・オニール 著、久保尚子 訳、インターシフト 発行、合同出版 発売、2018 年 6 月 18 日発売) は、人の能力や信用を点数にして選別する数理モデルとビッグデータが、生活と社会にどんな害をもたらしているかを、教育、広告、雇用、信用、健康、政治などの領域の事例で示した本です。原タイトルは『WEAPONS OF MATH DESTRUCTION』です。刊行時の著者紹介によると、オニールはハーバード大学で数学の博士号を取得したデータサイエンティストで、バーナードカレッジ教授を経て企業へ移り、金融、リスク分析、e コマースなどの分野でアルゴリズムの作成に携わりました。版元の紹介は、中立で公正に見えるアルゴリズムにも作り手の「見解」や「目的」が埋め込まれていると述べ、その仕組みを知ることから主導権を人間に取り戻そうと呼びかけています。

良いモデル、悪いモデルから民主主義まで、全 10 章で追う評価と選別

目次は「はじめに: AI・ビッグデータは破壊兵器になる」で始まり、「おわりに: 人間だけが未来を創造できる」で閉じます。その間の全 10 章には、題の頭に［モデル］［内幕］［教育］のような領域の見出しが付いています。第 1 章［モデル］「良いモデル、悪いモデル」と第 2 章［内幕］「データビジネスの恐るべき真実」に続き、第 3 章［教育］「大学ランキング評価が多様性を奪う」、第 4 章［宣伝］「弱みにつけこむオンライン広告」、第 5 章［正義］「「公平」が「効率」の犠牲になる」、第 6 章［就職］「ふさわしい求職者でも落とされる」、第 7 章［仕事］「職場を支配する最悪のプログラム」、第 8 章［信用］「どこまでもついて回る格付け評価」、第 9 章［身体］「行動や健康のデータも利用される」が並び、第 10 章［政治］「民主主義の土台を壊す」で終わります。

公平に見えるスコアが不平等を広げる仕組み

この本が扱う問題は、技術の側から見ると、予測モデルの作り方そのものに根があります。機械学習 のモデルは過去のデータから傾向を学ぶため、過去の採用や与信の判断に偏りがあれば、その偏りを正解として学び直してしまいます。人種や性別のような属性を入力から外しても、住所や学歴のように属性と強く結び付いた項目が代わりの手がかりになり、結果として同じ偏りが残ることもあります。さらに、ふるい落とされた人がその後どうなったかはデータに残らないことが多く、モデルは自分の誤りから学ぶ機会を持てません。版元の紹介が挙げる、評価を落とすと他の分野にも影響が及ぶ悪循環のフィードバックループも、一つの評価が別の場面の判断材料として使い回されると起こりやすくなる現象です。こうした偏りは、データサイエンス の手法が誤っているから生まれるのではなく、何を予測の正解として選び、どのデータを入力に使うかという設計の判断から生まれます。

システムを作る側と導入する側に向く、技術書ではない 1 冊

版元の紹介は、技術の使い方よりも、評価と選別の仕組みが社会に及ぼす影響を前面に出しており、目次も社会の領域ごとの事例で組まれています。モデルの実装手順や、公平性を測る指標の計算方法を学びたい人には別の専門書が必要です。2018 年 6 月刊の本なので、生成 AI の登場以後の話題も範囲の外です。一方で、hanmoto の書評掲載情報によると、刊行後の 2018 年 7 月から 8 月にかけて日本経済新聞、毎日新聞、朝日新聞の朝刊に書評が載りました。採用、与信、広告配信、人事評価のように人を点数で選ぶシステムを作る人や、そうしたシステムの導入を決める立場の人にとっては、自分の仕組みがどこで誰に不利に働き得るかを点検するための視点を、具体的な事例とともに得られる 1 冊です。