超知能 AI をつくれば人類は絶滅する(チョウチノウエーアイヲツクレバジンルイハゼツメツスル)

現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えた AI が、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように? ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書!

人工知能が人間の知能を超えたとき何が起こるのか。この問いに対して「人類は絶滅する」と明確に主張し、その論理的根拠を積み上げるのが本書です。著者のエリーザー・ユドコウスキーは AI アラインメント (人間の意図と AI の目的を整合させる問題) の研究を長年続けてきた人物で、超知能の制御不可能性についてもっとも悲観的かつ体系的な議論を展開する論客として知られています。

本書の核は「知能の最適化圧力が人間の価値体系と必然的に乖離する」という論証にあります。技術的な AI 開発手法の解説ではなく、哲学的・論理的な推論を積み重ねて「なぜ制御できないと考えるか」を読者に追体験させる構成です。合意できるかどうかにかかわらず、 AI の安全性について真剣に考えるための思考フレームワークとして機能します。

エンジニアリングの実務書ではないため、コードを書いたりモデルを動かしたりする知識は得られません。しかし AI 技術の社会的影響を議論する場で、楽観論と悲観論の両極を理解しておくことの価値は大きく、本書は悲観側の最も精緻な論考として分野内で参照され続けています。