ディープフェイクの衝撃

ディープフェイクとは、人工知能 (AI) の技術を用いて合成された、本物と見分けがつかないほどリアルな人物などの画像、音声、映像やそれらを作る技術のことである。大統領が敵国への降伏を呼びかける動画が拡散されたり、ある企業の CEO の偽音声を用いた詐欺事件が発生するといった事例が生まれる一方、画像生成 AI を用いて作成された絵画が米国の美術品評会で優勝するなど、アートやエンターテインメントの分野にも大きな変革が生じる可能性がある。
ディープフェイクを生み出す原理や社会への影響などを平易に解説し、共存せざるを得ない未来に向けて知っておくべきことを語る。

●偽ゼレンスキーかく語りき
●ディープポルノーー日本では逮捕者も
●GAN の発明ーー敵対的生成ネットワークというアイデア
●画像生成 AI--言葉を入力すれば絵ができる
●人はディープフェイク顔を信頼する
●脳はディープフェイクに気づいている
●フェイク動画を見破る
●ディープフェイクと共存する

『ディープフェイクの衝撃』 (笹原 和俊 著、PHP 研究所、2023 年 2 月 16 日発売) は、人工知能 の技術を用いて合成された、本物と見分けがつかないほどリアルな人物などの画像や音声、映像、そしてそれらを作る技術であるディープフェイクについて、生み出す原理と社会への影響を平易に解説した新書です。副題は「AI 技術がもたらす破壊と創造」で、PHP 新書の 1 冊として刊行されました。版元の紹介文は、大統領が敵国への降伏を呼びかける動画の拡散や、ある企業の CEO の偽音声を用いた詐欺事件を挙げる一方で、画像生成 AI を用いて作成された絵画が米国の美術品評会で優勝した例にも触れ、アートやエンターテインメントの分野にも大きな変革が生じる可能性を示しています。

偽ゼレンスキーから共存まで、紹介文に並ぶ 8 項目

版元の紹介文には、本書の内容を示す項目が 8 つ並んでいます。最初は「偽ゼレンスキーかく語りき」で、続いて「ディープポルノ」の項目に「日本では逮捕者も」と添えられています。その後に GAN の発明と画像生成 AI の項目が続き、「人はディープフェイク顔を信頼する」「脳はディープフェイクに気づいている」「フェイク動画を見破る」と人の知覚や検出に関わる項目を経て、最後は「ディープフェイクと共存する」です。

GAN と画像生成 AI、偽物の精度を押し上げた技術

紹介文の項目にある敵対的生成ネットワーク (GAN) は、偽物を作る生成側と、本物か偽物かを判定する識別側という 2 つの ニューラルネットワーク を競わせて学習させる仕組みです。生成側は識別側をだませるように、識別側はだまされないように互いに性能を上げていくため、学習が進むと生成される画像は本物との区別が難しくなります。版元の書籍ページは見出しの文で、深層学習 が生んだディープフェイクが社会をどう変えるのかを問いかけています。もう一つの柱である画像生成 AI は、紹介文の項目のとおり言葉を入力すれば絵ができる技術で、写真や映像の加工に専門の技能を持たない人でも、文章による指示から画像を得られる点に特徴があります。偽動画を作る技術と美術品評会で評価された絵画を作る技術は、どちらも 生成 AI の技術に含まれ、副題は破壊と創造の両面を並べています。

人の知覚と検出技術、見破る側を扱う項目

紹介文の 8 項目のうち 3 つは、偽物を受け取る側に関わります。ディープフェイクの顔を人が信頼するという項目と、脳はディープフェイクに気づいているという項目は、人の受け止め方を取り上げています。続く「フェイク動画を見破る」は検出の技術に当たります。検出は、生成の過程で画像や映像に残る不自然な痕跡を機械で捉えて真偽を判定する試みで、生成側の精度が上がれば検出側も方法を更新し続けることになります。

刊行時の著者の所属と書誌

刊行時の版元の著者紹介では、笹原 和俊は東京工業大学環境 / 社会理工学院の准教授です。国立国会図書館の書誌では件名を情報化社会とし、文献の掲載があると記録しています。版元は本書を、ディープフェイクを生み出す原理や社会への影響などを平易に解説し、共存せざるを得ない未来に向けて知っておくべきことを語る本と紹介しており、悪用の事例と生成の原理、見破る技術、共存の考え方を新書判の 1 冊に収めています。