DeepLearning

DeepLearning とは

ディープラーニング (Deep Learning、深層学習) は、多層に重ねたニューラルネットワークを使って、データから複雑なパターンを学習する機械学習の一手法だ。人間が特徴を手作業で設計しなくても、大量のデータからモデル自身が有効な特徴を自動的に抽出できる点が、従来手法との決定的な違いになる。

なぜ「深い」のか

ニューラルネットワークは入力層・中間層・出力層から成り、この中間層 (隠れ層) を多数重ねることを「深い (deep)」と表現する。層が深くなるほど、単純な特徴を組み合わせてより抽象的な概念を表現できるようになる。例えば画像なら、エッジ → 部品 → 物体、と段階的に認識が高度化する。

学習の仕組み

深い層を学習させる中心的な手続きが誤差逆伝播 (バックプロパゲーション) だ。まず入力を層の順に通して出力を出し (順伝播)、正解との食い違いを損失として数値化する。次にその損失を出力側から入力側へさかのぼり、各層の重みが損失にどれだけ寄与したか (勾配) を連鎖律で割り振って、寄与の大きい重みを損失が減る向きへ少しだけ動かす。この往復を大量のデータについて繰り返した結果として、どこに注目すべきかという中間層の表現が形づくられる。人が特徴を設計しなくても済むのは、この重み更新が特徴抽出の役目まで引き受けるからだ。

一度に動かす幅を決めるのが学習率で、大きすぎれば発散し、小さすぎれば学習が進まない。層を深くすると勾配が入力側へ届く前に小さくなりすぎる勾配消失が起きやすく、これを緩和する活性化関数 (ReLU) や層を飛び越える接続 (残差接続) が、深いモデルを実際に学習させる前提になっている。

得意分野

分野	代表的な成果
画像認識	物体検出、顔認識、医療画像診断
自然言語処理	翻訳、文章生成 (LLM の基盤)
音声認識	音声入力、文字起こし

2020 年代の生成 AI や 大規模言語モデル も、ディープラーニングの発展の上に成り立っている。

機械学習との違い

包含関係でいえば、AI という広い概念の中に 機械学習 があり、その一手法としてディープラーニングがある。従来の機械学習では「データのどこに注目するか」という特徴量の設計を人間が行い、その良し悪しが精度を左右した。ディープラーニングはこの特徴量設計そのものをモデルが学習で肩代わりする点が画期で、画像や音声のように人間が特徴を言語化しにくいデータで威力を発揮する。一方、表形式の業務データではいまだに勾配ブースティングなど従来手法が強く、データの種類によって最適な道具は分かれる。

歴史の転換点

多層ニューラルネットワークの理論は 20 世紀からあったが、学習を実用にする計算資源とデータが足りなかった。転機は 2012 年の画像認識コンテスト ILSVRC で、Alex Krizhevsky・Ilya Sutskever・Geoffrey Hinton の 3 氏が発表した畳み込みニューラルネットワーク (通称 AlexNet) が優勝したことだ。大会の公式結果では、上位 5 候補にも正解を含められなかった率が同チームで 15 % 台にとどまり、特徴量を人が設計する従来手法だった 2 位の 26 % 台と大きく開いた。これを境に研究と投資が一気に加速し、2016 年 3 月には DeepMind の AlphaGo が囲碁のトップ棋士イ・セドル氏との五番勝負で 4 勝 1 敗を収め、その延長線上に大規模言語モデルの時代が続いている。ブームの背後に「GPU の普及」「インターネット由来の大量データ」という物質的な条件があったことは、技術史の理解として押さえておきたい。

実用上の課題

性能の代償は学習の重さで、必要なデータ量と計算資源は解く課題の難しさとモデルの大きさに応じて膨らむ。ただし必要量が常に巨大とは限らない。公開されている学習済みモデルを出発点に手元のデータで調整する進め方 (転移学習・ファインチューニング) を採れば、一から学習させる場合よりも用意すべきデータと計算をかなり小さくできる。また、なぜその判断に至ったかを人間が説明しにくいブラックボックス性があり、医療や金融など説明責任が問われる領域では慎重な扱いが求められる。データが少ない課題ではむしろ従来の機械学習の方が適することも多く、「常にディープラーニングが最適」ではない点を理解しておきたい。

採否を決めるときは、精度の見込みより先に 3 点を確かめると外しにくい。扱うデータが画像・音声・文章のように特徴を言葉にしにくい種類か、判断の理由を第三者へ示す義務がある用途か、推論を 1 回動かすたびのコストが運用に見合うか。表形式で件数も限られ、しかも根拠の提示が必須という条件が重なるなら、勾配ブースティングなど従来手法から試す方が近道になる。