AI 以後

「人間 vs.AI」を超えた、世界の知性の最先端ビジョン!

急速に進化し続ける人工知能は今後どうなり、私たち人間や社会はそれにどう影響されるのか? A I 万能論や脅威論を超えた先にある、テクノロジーの真のリスクと可能性とは? 物理学、哲学など研究分野の異なる 4 人の世界的知性が見据える最先端のビジョンを通して、来るべき人類の未来とその対峙法をさぐる。

AI は人間の仕事を奪うのか、それともあらゆる問題を解いてくれるのか。『AI 以後 変貌するテクノロジーの危機と希望』 (丸山俊一 / NHK 取材班 編著、NHK 出版新書 603、2019 年 10 月刊) は、そのどちらの極論からも距離を取り、物理学や哲学など研究分野の異なる 4 人の論者の視点から、人工知能 が進化した先の人間と社会を考える新書です。技術書ではなく一般読者向けの新書判で、版元の紹介文は「万能論や脅威論を超え、フラットに現状を見つめることで見えてくる、テクノロジーの真のリスクと可能性」を掲げています。

意識 / 倫理 / 自律 / 進化、4 人の論者に 1 章ずつの構成

本文は「はじめに」に続く第 1 章から第 4 章と終章で構成され、第 1 章から第 4 章は 1 章につき 1 人の論者に割り当てられています。第 1 章「意識」はマックス・テグマーク、第 2 章「倫理」はウェンデル・ウォラック、第 3 章「自律」はダニエル・デネット、第 4 章「進化」はケヴィン・ケリーです。目次を見ると、テグマークの章には「アシロマ AI 原則」や意識を持つ AI と持たない AI の作り分けが、ウォラックの章には機械に道徳は実装できるかという問いや人間と AI の三つの決定的な違いが、デネットの章には自律性を持つことは隠し事をすることだという指摘や「ミーム」による進化が、ケリーの章には二度目の産業革命や AI には人間と異なる創造性があるという主張が並びます。終章「「逆転の発想」がもたらす視界」は丸山俊一氏の筆で、「理解力なき有能性」というパラドックスや「漸進性」といった項目が置かれています。

AI 万能論と脅威論の間で、2019 年の議論をどう読むか

刊行された 2019 年は、深層学習の成果が画像認識や翻訳、ゲームの分野で積み上がる一方、汎用人工知能の実現時期や制御可能性をめぐる論争が研究者と思想家の間で活発になっていた時期です。機械学習 の実務に近い立場から見ると、当時のシステムは大量のデータから統計的なパターンを学ぶ仕組みであって、目的を理解しているわけではありません。デネットの章に置かれた、意味を理解できない AI は人間のようになれるかという問いや、終章の「理解力なき有能性」は、この性質を哲学の言葉で言い当てたものです。テグマークの章の安全性研究や、ウォラックの章の道徳の実装という論点は、2020 年代に 生成 AI が普及し、AI の出力に誰が責任を持つか、どんな価値観を埋め込むかが実務の課題になったことで、抽象論ではなくなりました。本書は 2019 年時点の議論として読む必要がありますが、問いの立て方そのものは古びていません。

前提知識は不要、ただし AI の実装を学ぶ本ではない

前提知識は要りません。AI という言葉を日常的に見聞きしていれば読み通せる一般向けの新書で、論者ごとに章を分けた構成のため、関心のある人物の章から読み始めることもできます。逆に、ニューラルネットワークの仕組みやモデルの作り方、業務への導入手順を知りたい人には向きません。それらは 機械学習の技術書 の領分で、本書はその外側にある、作った先に何が起きるかという問いを扱います。また、体系的な AI 倫理の教科書や政策提言書を期待すると肩透かしになりますし、2020 年代の生成 AI の具体的な挙動や各国の規制動向は刊行時期の関係で範囲外です。

丸山俊一の終章と、エンジニアがこの新書で得るもの

編著者の丸山俊一氏は、版元プロフィールによれば 1962 年生まれ、慶應義塾大学経済学部卒業後に NHK に入局し、「欲望の資本主義」「人間ってナンだ? 超 AI 入門」などの教養番組を企画 / 制作してきたプロデューサーで、著書に『14 歳からの資本主義』などがあります。エンジニアがこの本から持ち帰れるのは、個々の技術判断の外側にある問いの座標です。AI に判断を委ねる範囲をどう線引きするか、AI の出力にどこまで責任を負うかという実務上の判断は、テグマークの安全性、ウォラックの倫理、デネットの自律性、ケリーの創造性という 4 つの切り口を知っていると言語化しやすくなります。機械学習の実装書を何冊も読んだ後で、自分の作るものが社会のどこに置かれるのかを一度俯瞰したい人、あるいは技術書に入る前に AI をめぐる議論の地図を手に入れたい人にとって、新書 1 冊分の投資で得られる視野は十分に元が取れます。