ディープフェイクの衝撃(ディープフェイクノショウゲキ)

ディープフェイクとは、人工知能 (AI) の技術を用いて合成された、本物と見分けがつかないほどリアルな人物などの画像、音声、映像やそれらを作る技術のことである。大統領が敵国への降伏を呼びかける動画が拡散されたり、ある企業の CEO の偽音声を用いた詐欺事件が発生するといった事例が生まれる一方、画像生成 AI を用いて作成された絵画が米国の美術品評会で優勝するなど、アートやエンターテインメントの分野にも大きな変革が生じる可能性がある。
ディープフェイクを生み出す原理や社会への影響などを平易に解説し、共存せざるを得ない未来に向けて知っておくべきことを語る。

●偽ゼレンスキーかく語りき
●ディープポルノーー日本では逮捕者も
● GAN の発明ーー敵対的生成ネットワークというアイデア
●画像生成 AI--言葉を入力すれば絵ができる
●人はディープフェイク顔を信頼する
●脳はディープフェイクに気づいている
●フェイク動画を見破る
●ディープフェイクと共存する

大統領が降伏を呼びかける偽動画、経営者の声を合成した詐欺電話。 AI で合成された本物と見分けのつかない画像・音声・映像、すなわちディープフェイクは、実害を伴う事件としてすでに世界各地で観測されています。本書は笹原和俊氏がその原理と社会的影響を一般読者向けに解説した一冊で、 PHP 新書として 2023 年 2 月に刊行されました。副題の「破壊と創造」が示す通り、脅威の面だけを煽る本ではありません。

技術面では、敵対的生成ネットワーク (GAN) というアイデアがどう偽物の精度を押し上げたのか、言葉から絵を生み出す画像生成 AI が何を可能にしたのかを、数式に頼らず説明します。一方で、人はディープフェイクの顔をむしろ信頼してしまうという知見や、脳は偽物に気づいているという実験、フェイク動画を見破る検出技術まで、人間側の反応も丁寧に扱われます。美術品評会で生成画像が優勝した事例のように、アートやエンターテインメントへの創造的な波及も視野に入ります。

新書という判型の通り、機械学習の予備知識は不要です。 SNS で流れてくる映像をどこまで信じてよいのか判断の物差しがほしい人、そして生成 AI を使う側に立つ技術者が自分の仕事の社会的な重みを測り直すために、共存の道筋まで語るこの本は手頃で確かな入り口になります。