AI 倫理

自動運転の車が事故を起こしたとき、誰が責任をとるのか。AI による創作物は果たしてフェアな作品と言えるのか。AI を活用していく上で、避けることのできない倫理的な問題を、この分野の第一人者が正面から論じる。近未来にシンギュラリティが訪れ、AI が「人格」を持ったり「超知性」となることを信じている人にこそ読んでもらいたい一冊。

自動運転の車が事故を起こしたとき、責任は誰がとるのか。AI が生成した作品は、フェアな創作物と呼べるのか。『AI 倫理 人工知能は「責任」をとれるのか』 (西垣通 / 河島茂生 著、中公新書ラクレ、2019 年 9 月刊、新書判 256 ページ) は、AI をめぐって必ず持ち上がるこの種の問いを、事件への感想や規制の紹介ではなく、「責任」や「人格」という概念の土台から論じる新書です。著者の西垣通氏は日立製作所でコンピュータソフトの研究開発に携わった後、東京大学で情報学を講じた文理にまたがる情報学者 (東京大学名誉教授 / 工学博士)。河島茂生氏との共著で、版元はこの分野の第一人者による正面からの議論と紹介しています。

責任と人格の概念から掘り下げる議論の芯

本書の議論の芯は、責任という概念が「自律的に判断し、その帰結を引き受けられる主体」を前提にしている、という点にあります。AI は判断らしきものを出力しますが、その帰結を引き受ける人格を持つのか。持たないなら、責任は設計者 / 製造者 / 利用者 / 社会のどこへどう配分されるべきなのか。この整理を持たないまま「AI が判断したので」という言い訳が通る社会になれば、責任の空白地帯が生まれます。版元が「シンギュラリティが訪れ、AI が人格や超知性を持つと信じている人にこそ読んでもらいたい」とうたうとおり、機械への安易な人格の割り当てに対して批判的な視座を据えるのが本書の立場で、自動運転や AI 創作という具体的な題材でその道具立てを試していきます。

思想書に近いが実務と地続き

コードや数式は登場せず、性格としては技術書より思想書に近い一冊です。ただしそれは実務と無関係という意味ではありません。AI サービス の利用規約、事故時の補償設計、 生成 AI の著作権対応といった実務は、突き詰めればすべて「誰が責任をとるのか」の設計であり、本書の原理的な整理はその議論の足場になります。新書判なので、通勤の細切れ時間でも読み通せる分量です。

次の一冊と向いている読者

読み終えて物足りなくなったら、同じ著者たちが加わった共同研究の論集『AI・ロボットと共存の倫理』 (岩波書店、2022 年) が次の一冊になります。あちらが多分野の研究者による論集なのに対し、本書は 2 人の共著で議論が一本道に通っており、AI 倫理の入口としてはこちらが先です。エンジニアが技術の外側の問いに足場を作る教養として、また AI ガバナンスや法務 / 企画でこの言葉を使う人が「ガイドラインの暗記」から一段深く降りるための一冊として、新書 1 冊分の投資で得られるものは大きい本です。