目次
Deep Learningとは？
【解析手法という観点では】
人間が行う一連のタスクをコンピュータに学習させる機械学習の手法のひとつ。
【モデル構造という観点では】
3層以上の層を深くしたニューラルネットワーク構造
MITが発刊している『Deep Learning Book』には以下の通り述べている。
Deep learning is a particular kind of machine learning that achieves great power and flexibility by learning to represent the world as a nested hierarchy of concepts, with each concept defined in relation to simpler concepts, and more abstract representations computed in terms of less abstract ones.
"階層構造のモデルの持ち、機械が自動的にデータから特徴を抽出してくれるディープニューラルネットワーク（DNN）を用いた学習のこと"を指しています。
なぜDeep Learningが使われるのか
「データを学習して特徴を捉えることによって、複雑な表現が可能であり、
何かの予想をする際に上手くいくケースが多い為」
物理現象に基づいたモデルを構築してくれるわけではないので、なぜかわからないけど上手くいくというケースも多い。
ただし、非常に多くのデータとコンピュータリソース、そして時間がかかるという課題もある。
層を深くする意味とは
"層を深くすること"で複雑なモデル表現が可能になったDeep Learning、層を深くするところの意味は大きく分けて2つあります。
・ネットワークのパラメータ数を少なくできる
5×5の畳み込み演算実施の際のパラメータ数と3×3の畳み込み演算を2回実施するときのパラメータ数を比較すると、25(5×5) > 18(2×3×3) であり、2回実施した方がパラメータ数を少なくできる。
・学習の効率が上がる
画像認識において、畳み込み層の数だけ、特徴を抽出できる構造となっており、層を深くした方が特徴抽出が速く進む。
Deep Learningの種類
Deep Learningは、多様な目的において活躍しており、多様な種類が存在する。
それぞれは、その目的に合わせて活用される。
- DNN (ディープニューラルネットワーク)
Deep Learnigの基礎技術
- CNN (畳み込みニューラルネットワーク)
畳み込み層とプーリング層と呼ばれる層を有しているDNN。画像認識にて多く活用される。
近年は、それを発展させたResNetと呼ばれる技術も登場
- RNN(再帰型ニューラルネットワーク)
時系列データに対応するため、各層の入力として 前時刻の出力を入れる構造を持つ。時系列データの解析で多く使われる。
近年は、それを発展させたLSTMと呼ばれる技術も存在
- GAN(敵対的生成ネットワーク)
生成ネットワークと識別ネットワークと呼ばれる、2つのネットワークを組み合わせて学習を進める。
主に画像の生成などで使用される。
まとめ
今回は導入ということでDeep Learningの概要をまとめました。具体的なモデルについても勉強してまとめていきたいと思います。
