AI 新生(エーアイシンセイ)

「これまで読んだ最も重要な書だ」
ダニエル・カーネマン (プリンストン大学教授、『ファスト＆スロー』)

「 AI の真のパイオニアによる傑作…リスクを明らかにするだけでなく、具体的で有望な解決策を示している」
マックス・テグマーク (MIT 教授、『 LIFE3.0 』)

「重要な警鐘を鳴らしている… AI 研究における大きな前進だ」
『ネイチャー』誌

「 AI 開発者と AI 利用者、つまり私たち全員にとって、わかりやすく魅力的な必読書だ」
ジェームズ・マニーイカ (マッキンゼー・グローバル・インスティテュート・ディレクター)

「問題はずばり AI の基本定義にある。機械はその行動がその目的を達成すると見込める限りにおいて知能を備えている、と私たちは言うが、その目的が私たちの目的と同じだと確かめるための信頼に足る方法がない…ならば、こんな定義はどうか。《機械は、その行動が私たちの目的を達成すると見込める限りにおいて、有益である》…こうした機械にとって、私たちの目的が不確実になることは避けられない…目的に不確実性があると、機械は意思決定を人間に委ねざるをえなくなる。修正を受け入れ、スイッチを切られることを厭わなくなる。
機械は決まった目的をもつべきという前提を取り払うなら、私たちが試みている基本定義を、すなわち人工知能の土台を、一部取り払って置き換えなければならない。ということは、 AI を実現するためのアイデアや方式の蓄積という母屋の大半をつくりなおすことにもなる。すると人類と機械とのあいだに新たな関係が生まれるだろう。私はこの新たな関係が、これから数十年の人類を成功へ導いてくれると願っている」 (本文より)
全世界で使われる AI の標準的教科書の著者が、安易な脅威論を超え、ヒトと AI の新たな関係を提案する。
はじめに

1 もし本当に成功したら
2 人間の知能、機械の知能
3 AI はこれからどう進歩しうるか?
4 AI の悪用
5 知能が高すぎる AI
6 いまひとつの AI 議論
7 AI ──別のアプローチ
8 有益だと証明できる AI
9 問題を複雑にする存在──私たち
10 問題は解決?
付録 A 解の探索
付録 B 知識と論理
付録 C 不確実性と確率
付録 D 経験から学習する

謝辞
索引／原注／図版クレジット

世界中の大学で使われる AI の標準的教科書を書いた研究者が、その土台にある定義そのものを作り直そうと論じた本です。著者はスチュアート・ラッセル氏、訳は松井信彦氏で、 2021 年 4 月にみすず書房から刊行されました。サブタイトル「人間互換の知能をつくる」が示すとおり、テーマは人間と両立する知能の設計です。機械は与えられた目的を達成するよう行動する限り知能的である、という従来の定義では、その目的が人間の目的とずれていないことを確かめる方法がない、という問題提起が全体を貫きます。

前半は AI の進歩の見通し、悪用の可能性、知能が高すぎる機械のリスクと、それを軽視する議論への反論を積み重ねます。後半が本領で、機械の側に目的の不確実性を持たせ、人間への確認や修正の受け入れ、停止の許容が合理的な行動になるように設計し直すという別のアプローチを提示します。巻末には探索、論理、確率、学習を扱う 4 つの付録があり、一般読者向けの語り口ながら技術的な裏付けまで降りられる作りです。

数式を追う必要はありませんが、議論の密度は高く、読みごたえは新書の類と一線を画します。 AI の安全性や目的の整合の問題を、煽りでも楽観でもなく設計問題として考えたいエンジニアや学生にとって、この分野の議論の水準を知り、自分の立場を組み立てるための土台になります。