AI の心理学(エーアイノシンリガク)

アルゴリズムに潜むバイアスの怖さを知り、ビジネスに活かす!
ディープラーニング人気の急上昇とともに注目されるようになった「アルゴリズミックバイアス」の解説書。アルゴリズミックバイアスとは、コンピュータによる偏った決定のことです。ネットショップでまるで的はずれなお勧めをされるとか、こちらには非がないにもかかわらずアカウントを凍結されるなどは、バイアスの悪影響の典型例と言えるでしょう。コンピュータ (AI) が下す決定には検出しづらいさまざまな「バイアス (偏り) 」が存在します。本書では、バイアスがどのように発生するかを知り、バイアスとの闘い方を通して機械学習全般について学び、システムにバイアスが混入しないように予防、管理する方法を明らかにします。

アルゴリズムが判断を誤るとき、その原因は多くの場合「アルゴリズムの欠陥」ではなく「人間の認知バイアスがデータや設計を通じて移植された結果」です。 Tobias Baer 氏による本書は、心理学の知見を出発点に、なぜ AI が偏った出力を返すのか、そしてそれをどう予防・管理するかを論じた一冊です。オライリー・ジャパンから刊行された邦訳版で、武舎広幸氏らが翻訳を担当しています。

特徴的なのは、バイアスを技術的な問題としてだけでなく、人間の意思決定の構造から説き起こしている点です。個人レベルの認知の歪み (確証バイアス、アンカリングなど) がどのようにデータ収集やラベル付けに影響し、それがモデルの出力となって社会に返ってくるか、という因果の連鎖を丁寧に追います。エンジニアだけでなく、 AI を業務に導入する意思決定者やリスク管理の担当者にとっても示唆の多い構成です。

本書はバイアスの「検出と対策」を扱う実践寄りの書籍であり、深層学習のアーキテクチャやモデル実装の詳細には立ち入りません。 AI の技術そのものではなく「 AI を使う人間の側の問題」を見つめ直したいときに手に取る本です。