まるっとワーク

データ分析・電子工作など気になることを残していきます

2021-12-01から1ヶ月間の記事一覧

回帰結合型 ニューラルネットワーク

続いて、回帰結合型のディープラーニングのアルゴリズムをまとめていきます。 目次 Recurrent, Recursive Neural Network(RNN)の概要 RNNのアルゴリズム RNNの学習について RNNの課題 スキップ接続 RNNの応用 Bi-directional RNN Long-Short Term Memory(LST…

ディープラーニング設計について

前回の記事までで、ディープラーニングのアルゴリズムや構造について記載しました。 続いては、設計時に必要な考え方についてまとめます。目次 学習の円滑化1(パラメータ(重み)の初期値について) Xavierの初期値 Heの初期化 学習の円滑化2(BatchNormalizatio…

誤差逆伝播法

前回はニューラルネットワークの構造について説明をしました。 続いては、モデル構築に必要な学習に関する技術を説明します。目次 ニューラルネットワークの学習 勾配降下法 誤差逆伝播法 勾配消失 確率的勾配降下法(Stochastic Gradient Descent :SGD) ミニ…

ニューラルネットワークについて②

前回の続きで、書ききれなかった部分について説明していきます。 目次 損失関数とは ディープラーニングでの損失関数の特徴 目指すべき損失について 損失関数関数の種類(Loss Function) ニューラルネットワークの普遍性定理について まとめ 損失関数とは 前…

ニューラルネットワークについて①

前回はニューロン及び人工ニューロンの説明をしました。 今回は、ニューラルネットワークについて説明していきたいと思います。目次 ニューラルネットワークとは ニューラルネットワークの例 活性化関数の導入 活性化関数を含めた人工ニューロンの動作 活性…

人工ニューロンについて

ディープラーニングについて学習を始めたので、関連するアルゴリズムであるパーセプトロンについて説明していきたいと思います。目次 ニューロンと人工ニューロンとは 人工ニューロンの仕組み 人工ニューロンの構造 人工ニューロンの動作 単純な論理回路の設…

ディープラーニングについて(言葉の定義など、はじめの一歩)

ディープラーニングについて学習を始めたので、理解した内容についてまとめて説明していきたいと思います。目次 Deep Learningとは? なぜDeep Learningが使われるのか 層を深くする意味とは Deep Learningの種類 まとめ Deep Learningとは? 【解析手法とい…