深層学習の基礎(順伝播型ネットワーク、最適化、正則化、CNN、RNN、Transformer等)
ミニバッチを用いた誤差逆伝播法によるニューラルネットワークの1回の更新において、次の①〜④を正しい順序に並べたものはどれか。①順伝播を行い出力を計算する②損失関数を用いて誤差を計算する③誤差を出力層から入力層へ逆伝播させて各層の勾配を計算する④勾配に基づきパラメータを更新する
- A②→①→③→④
- B①→③→②→④
- ✓①→②→③→④
- D③→①→②→④
解説
まず順伝播で出力を得て損失を計算し、その誤差を逆伝播させて各パラメータの勾配を求め、最後にその勾配を用いてパラメータを更新するのが基本手順である。
根拠シラバス「深層学習の基礎 - 深層モデルのための最適化」