あなたを支配し、社会を破壊する、 AI ・ビッグデータの罠(アナタヲシハイシシャカイヲハカイスルエーアイビッグデータノワナ)

:::: AI ・ビッグデータの暴走を止めよ! ::::

全米を、世界を、震わせた人類への警鐘

★「必読です!」
ーー新井紀子 (『 AI vs. 教科書が読めない子どもたち』)
待望の邦訳。ビッグデータと AI の被害に遭うのは「あなた」かもしれない

★「年間ベストブック」
ーーユヴァル・ノア・ハラリ (『サピエンス全史』)
魅了され、深く心をかき乱される 『ガーディアン』紙

いまや AI ・ビッグデータは、人間の能力・適性・信用、
さらには善悪や身体までも評価し、選別し始めた。

問題は、こうした AI ・ビッグデータの仕組みや活用法の多くが、
偏見や誤りなどであふれていることだ。

中立・公正のように見えるアルゴリズムにも、
作り手の「見解」や「目的」が埋め込まれている。

数値化しにくいリアルな世界の複雑さや公平性を欠いたまま、
効率・収益を優先するアルゴリズムによって私たちの生活・社会が導かれていく。

さらに信用格付けが下がるなど、アルゴリズムによる評価を落とすと、
他分野にも影響がおよび、悪循環のフィードバックループが待っている。

私たちは、こうした破壊的な AI ・ビッグデータとは何かを知り、
変えていくことによって、主導権を人間に取り戻さなくてはならない。

★ 世界的ベストセラー、年間ベストブック＆賞、多数!

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

::著者:: キャシー・オニール
データサイエンティスト。ハーバード大学で数学の博士号を取得。
バーナードカレッジ教授を経て、企業に転職し、金融、リスク分析、 e コマースなどの
分野で、アルゴリズム作成などに従事。
ブログ「 mathbabe 」を開き、「 ORCAA (オニール・リスク・コンサルティング＆アルゴリズム・オーディティング) 」を創設。

::訳者:: 久保尚子
翻訳家。 IT 企業勤務を経て、翻訳業に従事。訳書にスティーヴ・ロー『データサイエンティストが創る未来』、
マイケル・ブルックス＆サイモン・ブラックバーン『ビッグクエスチョンズ 物理』など。
はじめに: AI ・ビッグデータは破壊兵器になる
第 1 章［モデル］ 良いモデル、悪いモデル
第 2 章［内幕］ データビジネスの恐るべき真実
第 3 章［教育］ 大学ランキング評価が多様性を奪う
第 4 章［宣伝］ 弱みにつけこむオンライン広告
第 5 章［正義］ 「公平」が「効率」の犠牲になる
第 6 章［就職］ ふさわしい求職者でも落とされる
第 7 章［仕事］ 職場を支配する最悪のプログラム
第 8 章［信用］ どこまでもついて回る格付け評価
第 9 章［身体］ 行動や健康のデータも利用される
第 10 章［政治］ 民主主義の土台を壊す
おわりに: 人間だけが未来を創造できる

数学者でありデータサイエンティストでもあるキャシー・オニールが、社会に浸透した数理モデルの「見えない害」を告発した一冊です。原著 "Weapons of Math Destruction" (2016 年) の邦訳であり、採用選考、犯罪予測、信用スコア、保険料算定といった場面で使われるアルゴリズムが、透明性を欠いたまま人々の人生を左右している実態を具体的な事例で描きます。

著者が指摘する「大量破壊数学兵器 (WMD) 」の特徴は、不透明 (中身が分からない) 、規模が大きい (個人の反証が困難) 、そして被害が弱者に偏る、の三点です。データで客観的に判断しているように見えるシステムが、実は既存の不平等を拡大再生産している構図を、感情論ではなく構造の問題として提示します。

技術の入門書ではなく、技術を「使う側の責任」を問う本です。アルゴリズムの設計や運用に関わるエンジニア、プロダクトマネージャーが、自分の作るシステムが社会にどう作用しうるかを立ち止まって考えるきっかけになる一冊です。