AI 新生

「これまで読んだ最も重要な書だ」
ダニエル・カーネマン (プリンストン大学教授、『ファスト & スロー』)

「AI の真のパイオニアによる傑作…リスクを明らかにするだけでなく、具体的で有望な解決策を示している」
マックス・テグマーク (MIT 教授、『LIFE3.0』)

「重要な警鐘を鳴らしている…AI 研究における大きな前進だ」
『ネイチャー』誌

「AI 開発者と AI 利用者、つまり私たち全員にとって、わかりやすく魅力的な必読書だ」
ジェームズ・マニーイカ (マッキンゼー・グローバル・インスティテュート・ディレクター)

「問題はずばり AI の基本定義にある。機械はその行動がその目的を達成すると見込める限りにおいて知能を備えている、と私たちは言うが、その目的が私たちの目的と同じだと確かめるための信頼に足る方法がない…ならば、こんな定義はどうか。《機械は、その行動が私たちの目的を達成すると見込める限りにおいて、有益である》…こうした機械にとって、私たちの目的が不確実になることは避けられない…目的に不確実性があると、機械は意思決定を人間に委ねざるをえなくなる。修正を受け入れ、スイッチを切られることを厭わなくなる。
機械は決まった目的をもつべきという前提を取り払うなら、私たちが試みている基本定義を、すなわち人工知能の土台を、一部取り払って置き換えなければならない。ということは、AI を実現するためのアイデアや方式の蓄積という母屋の大半をつくりなおすことにもなる。すると人類と機械とのあいだに新たな関係が生まれるだろう。私はこの新たな関係が、これから数十年の人類を成功へ導いてくれると願っている」 (本文より)
全世界で使われる AI の標準的教科書の著者が、安易な脅威論を超え、ヒトと AI の新たな関係を提案する。
はじめに

1 もし本当に成功したら
2 人間の知能、機械の知能
3 AI はこれからどう進歩しうるか?
4 AI の悪用
5 知能が高すぎる AI
6 いまひとつの AI 議論
7 AI──別のアプローチ
8 有益だと証明できる AI
9 問題を複雑にする存在──私たち
10 問題は解決?
付録 A 解の探索
付録 B 知識と論理
付録 C 不確実性と確率
付録 D 経験から学習する

謝辞
索引 / 原注 / 図版クレジット

機械に目的を与え、その目的をうまく達成するほど賢いとみなす。人工知能の研究を支えてきたこの考え方そのものに問題がある、と正面から論じたのが『AI 新生』 (スチュアート・ラッセル 著、松井信彦 訳、みすず書房、2021 年 4 月刊) です。副題は「人間互換の知能をつくる」、原書名は HUMAN COMPATIBLE: Artificial Intelligence and the Problem of Control で、版元は本書を「全世界で使われる AI の標準的教科書の著者が、安易な脅威論を超え、ヒトと AI の新たな関係を提案する」と紹介しています。AI がもたらす危険を漠然とした不安ではなく、知能の定義と設計の問題として捉え直したい読者に向けた一冊です。

AI の危険と著者の提案を扱う全 10 章と付録 4 本

本書は「はじめに」に続く全 10 章と、付録 A から付録 D までの 4 本で構成されています。第 1 章「もし本当に成功したら」に始まり、第 2 章「人間の知能、機械の知能」、第 3 章「AI はこれからどう進歩しうるか?」と続きます。第 4 章「AI の悪用」、第 5 章「知能が高すぎる AI」、第 6 章「いまひとつの AI 議論」のあとに、第 7 章「AI──別のアプローチ」と第 8 章「有益だと証明できる AI」が置かれ、第 9 章「問題を複雑にする存在──私たち」を経て、第 10 章「問題は解決?」で締めくくられます。付録は A「解の探索」、B「知識と論理」、C「不確実性と確率」、D「経験から学習する」の 4 本です。

目的の不確実性が機械を人間に委ねさせるという提案

版元が紹介する本文の一節では、著者は問題の所在を AI の基本定義に置いています。「機械はその行動がその目的を達成すると見込める限りにおいて知能を備えている」という定義のもとでは、「その目的が私たちの目的と同じだと確かめるための信頼に足る方法がない」という指摘です。そこで著者は、「機械は、その行動が私たちの目的を達成すると見込める限りにおいて、有益である」という定義を示します。この形では機械にとって人間の目的が不確実になることは避けられず、その不確実性があるからこそ、機械は「意思決定を人間に委ねざるをえなくなる。修正を受け入れ、スイッチを切られることを厭わなくなる」と述べられています。著者は、機械は決まった目的を持つべきという前提を取り払うことが、「AI を実現するためのアイデアや方式の蓄積という母屋の大半をつくりなおすこと」にもなると述べています。

目的を固定して最大化する設計がなぜ危ういのか

目的を与えて、その達成度が最も高くなる行動を選ばせるという組み立ては、探索や計画、確率に基づく推論、そして報酬を最大にする行動を試行錯誤で学ぶ 強化学習 まで、多くの手法の共通の土台です。この組み立ての弱点は、設計者が書き下した目的と、本当に望んでいることの間の差を、機械の側が知りようがない点にあります。点数の付け方に穴があれば、機械はその穴を突く行動を見つけるほど高く評価され、能力が上がるほど意図から外れた結果も大きくなります。さらに、目的を固定された機械にとっては、止められることも目的の達成を妨げる出来事になるため、停止を避けることが理屈の上で合理的になってしまいます。目的そのものに不確かさを残し、人間の振る舞いからそれを推し量らせるという本書の方向は、この構造上の問題に設計の側から手を打とうとするものです。

AI の安全性を設計の問題として考えたい人に向く一冊

目次は AI の進歩の見通し、悪用、知能が高すぎる機械をめぐる議論、そして著者の提案で組まれており、プログラムの書き方やモデルの作り方を順に教える構成ではありません。機械学習のモデルを自分の手で組み立てる技術を身につけたい場合は、機械学習とディープラーニングの技術書の選び方 から実装を扱う本を選び、本書はその判断の背後にある問いを考えるために併せて読む位置づけが合います。

AI を組み込んだ製品を作る開発者や、AI の導入を判断する立場にある人、研究の方向を考えている学生にとって、標準的教科書の著者が自分の分野の土台を問い直す過程を全 10 章で追える本書は、AI の危険を語る議論に流されず、自分の考えを組み立てるための足場になります。第 1 章から、著者の立てる問いを自分の仕事や研究に引き寄せながら読み進めてみてください。