AI セキュリティから学ぶ ディープラーニング［技術］入門(エーアイセキュリティカラマナブディープラーニングギジュツニュウモン)

ディープラーニングの適用範囲が拡がり、画像認識や音声認識の精度が高くなる一方、モデルに対して細工した画像を送り、誤った分類結果を引き起こす攻撃などが懸念され始めています。海外では非常に活発な研究領域です。たとえば、敵対的サンプル (Adversarial example) として、パンダ (Panda) の画像にノイズを少し加えることでテナガザル (Gibbon) と誤認識させる現象が有名です。
本書では、これらを理解するためにディープラーニングの基礎からハンズオンによる実装方法まで解説しています。ディープラーニングは数式などがあって難易度が高く感じる方にも最適な一冊です。

ディープラーニング の入門書は数多くありますが、本書は「 AI そのものへの攻撃」という切り口から深層学習を学ばせる、珍しい設計の一冊です。『 AI セキュリティから学ぶ ディープラーニング[技術]入門』 (田篭照博 著、技術評論社、 2021 年 1 月刊、 B5 変形判 360 ページ) は、画像や音声の認識精度が上がる一方で懸念され始めた「モデルを騙す攻撃」を理解することを動機に据え、そこから逆算してディープラーニングの基礎と実装を解説します。著者はセキュリティエンジニアで、スタンフォード大学の客員研究員としてディープニューラルネットワークの形式検証を研究してきた経歴の持ち主です。

看板は敵対的サンプルという現象

本書の看板になっているのが敵対的サンプル (Adversarial example) です。パンダの画像に人間には気づけないほど微小なノイズを加えるだけで、モデルがそれを「テナガザル」と高い確信度で誤認識してしまう。この有名な現象が象徴するように、深層学習モデルは人間とは違う壊れ方をします。攻撃という具体的で刺激的な題材から入ることで、「なぜモデルはそう判断するのか」という中身への興味を引き出すのが本書の狙いで、単なる攻撃手法カタログではなく、攻撃を理解するために必要な深層学習の原理を基礎から積み上げる構成です。

数式が苦手でもハンズオンで実装まで

学習面では、数式に難しさを感じる読者にも配慮しつつ、ハンズオンによる実装まで踏み込みます。 360 ページという厚みは、基礎の解説と手を動かす実装、そしてセキュリティという応用テーマを一冊に収めた結果で、通読すれば「動かせる」と「攻撃の仕組みがわかる」の両方が手に入ります。 AI セキュリティという分野が海外で活発に研究されている領域であることも本書は伝えており、この観点を早い段階で持てることは、モデルを本番投入する際の堅牢性への意識につながります。

向いている読者と前提知識

向いているのは、ディープラーニングを学びたいが通常の入門書の題材 (手書き数字認識など) に食指が動かなかった人、セキュリティ のバックグラウンドから AI に関心を広げたいエンジニア、そしてモデルの 脆弱性 という論点を早めに押さえておきたい機械学習の初学者です。前提は Python の基礎程度で、深層学習の知識はなくても本書内で補われます。刊行は 2021 年でライブラリのバージョン差異は生じ得ますが、敵対的サンプルという現象とその背後にある原理は研究が続く本質的なテーマで、切り口の面白さも含めて学習の入口として長く通用する一冊です。