LIFE3.0 ──人工知能時代に人間であるということ(ライフサンテンゼロ　ジンコウチノウジダイニニンゲンデアルトイウコト)

超知能 AI が出現したら何が起こるかーー AI 開発の指針「アシロマ AI 原則」の取りまとめに尽力し、 AI 安全性研究を牽引する著者が、来るべき世界の姿と生命の究極の未来を考察する。労働、法律、軍事、倫理から、生命と宇宙、機械の意識まで多岐にわたる問題を論じた全米ベストセラー。 31 か国で刊行。

「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」
──スティーヴン・ホーキング

イーロン・マスク、エリック・ブリニョルフソン、レイ・カーツワイル、ニック・ボストロム、スチュワート・ラッセル、マーティン・リースら推薦!

NY Times Bestseller
The Times Books of the Year 2017
Daily Telegraph Books of the Year 2017
バラク・オバマ Favorite Books of 2018
ビル・ゲイツ 10 Favorite Books about Technology

★ NHK E テレで今年放映された番組「超 AI 入門特別編 (全 5 回) 」の、第 1 回目 (6/26) と 5 回目 (7/31) に著者が出演しています。
【目次】

プロローグ オメガチームの物語
最初の数百万ドル/ 危険なゲーム/ 最初の数十億ドル/ 新たなテクノロジー/ 権力掌握/ 統合

第 1 章 いまもっとも重要な議論へのいざない
複雑さのおおまかな歴史/ 生命の 3 つの段階/ 論争/ 誤解/ この先の道筋

第 2 章 物質が知能を持つ
知能とは何か/ 記憶とは何か/ 計算とは何か/ 学習とは何か

第 3 章 近未来: ブレイクスルー、バグ、法律、兵器、仕事
ブレイクスルー/ バグ VS 堅牢な AI/ 法律/ 兵器/ 仕事と賃金/ 人間レベルの知能

第 4 章 知能爆発
全体主義/ プロメテウスが世界を支配する/ ゆっくりとした立ち上がりと多極的なシナリオ/ サイボーグとアップロード/ 実際には何が起こるのか

第 5 章 余波: 1 万年先まで
自由論者のユートピア/ 善意の独裁者/ 平等主義者のユートピア/ 門番/ 保護者としての神/ 奴隷としての神/ 征服者/ 後継者/ 動物園の飼育係/ 1984/ 先祖返り/ 自滅

第 6 章 宇宙からの恵み: 今後 10 億年とさらにその先
資源を最大限に活用する/ 宇宙への入植によって資源を確保する/ 宇宙のヒエラルキー/ 展望

第 7 章 目標
物理学: 目標の起源/ 生物学: 目標の進化/ 心理学: 目標の追求とそれに対する反抗/ 工学: 目標を外部に委ねる/ 友好的な AI: 目標を合致させる/ 倫理: 目標を選ぶ/ 究極の目標

第 8 章 意識
どうでもいい問題なのでは/ 意識とは何か/ 何が問題か/ 意識は科学の範囲を超えているのか/ 意識に関する実験的な手掛かり/ 意識に関するいくつかの理論/ 意識をめぐる論争/ AI の意識は何を感じるか/ 意義

エピローグ FLI チームの物語
FLI の誕生/ プエルトリコでの冒険/ AI 安全性研究を主流にする/ アシロマ AI 原則/ 留意を伴う楽観論

『 LIFE3.0 人工知能時代に人間であるということ』は、マサチューセッツ工科大学 (MIT) の物理学者マックス・テグマークが、汎用人工知能 (AGI) の実現後に人類と生命がたどり得る道筋を論じた一般向け科学書です。原著 Life 3.0 は 2017 年刊、邦訳は水谷淳訳で紀伊國屋書店から 2020 年 1 月に刊行されました (46 判・ 512 ページ) 。全米ベストセラーとなり 31 か国で刊行され、スティーヴン・ホーキングが「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」と推した一冊でもあります。

書名の「 3.0 」が意味する生命の三段階

書名の「 3.0 」は、著者独自の生命の三段階区分に由来します。ハードウェア (体) もソフトウェア (行動様式) も進化任せの生命 1.0 、学習によってソフトウェアを自分で書き換えられる人間すなわち生命 2.0 、そしてハードウェアまで自己設計できる生命 3.0 という区分で、 AGI はこの第三段階への入口に位置づけられます。物理学者らしさが出るのは、知能・記憶・計算・学習を「物質の配置が持つ性質」として説明し直す第 2 章で、 AI をめぐる議論を意志や感情の比喩ではなく物理法則の制約から組み立てる視点が本書の知的な骨格です。

時間スケールが段階的に広がる章構成

構成は時間スケールが段階的に広がる作りです。超知能 AI を秘密裏に開発する「オメガチーム」の物語というフィクションのプロローグで幕を開け、第 3 章でバグ・法律・兵器・仕事という近未来の論点を、第 4 章で知能爆発の立ち上がり方を扱い、第 5 章では AGI 出現後 1 万年について「自由論者のユートピア」「善意の独裁者」「動物園の飼育係」「自滅」など 12 のシナリオを並べて比較します。第 6 章は宇宙資源の活用へ視野を今後 10 億年に広げ、第 7 章は AI に目標をどう持たせるかという目標合致 (アライメント) の問題、第 8 章は機械の意識を論じ、エピローグは著者が関わった Future of Life Institute (FLI) の誕生とアシロマ AI 原則の取りまとめの経緯で閉じられます。

著者の当事者性と読みやすさ

著者は AI 安全性研究を推進する非営利団体 FLI の立ち上げに携わり、 AI 開発指針「アシロマ AI 原則」の取りまとめに尽力した当事者です。それでも本書は特定の結論へ読者を誘導せず、楽観論と悲観論それぞれの誤解を解きほぐしながら、どの未来を望むかの判断材料を並べる姿勢を貫きます。数式は登場せず AI の前提知識も不要なため理系文系を問わず読めますが、 512 ページの大部で論点も雇用から宇宙・意識まで及ぶため、通読には相応の時間を見込む必要があります。

原著 2017 年という時代差と類書の使い分け

原著は 2017 年刊で、 2020 年代の 生成 AI と 大規模言語モデル の隆盛より前に書かれています。個別の技術動向を追う本ではなく、 AI に目標をどう与えるか・制御をどう保つか・機械に意識は宿るかという原理的な問いを扱う思想書であり、これらの問いは 2026 年時点でも AI 安全性をめぐる議論の中心にあります。 20 年後の実装像を SF 短編と技術解説の組で描く『 AI 2041 人工知能が変える 20 年後の未来』 (カイフー・リー、チェン・チウファン著・文藝春秋・ 2022 年邦訳) が「近い未来の具体」を受け持つなら、本書は「遠い未来まで含めた原理」を受け持つ対の一冊です。逆に、機械学習の実装技術や プロンプトの書き方 を学びたい人には向きません。 AI と人類の関係を報道の表層ではなく自分の頭で考えるための枠組みが欲しい読者にとって、その土台を一冊でまとめて提供してくれる本です。