深層学習の基礎（順伝播型ネットワーク、最適化、正則化、CNN、RNN、Transformer等）
あるニューラルネットワークの学習曲線を確認したところ、訓練誤差はエポックが進むにつれて単調に減少し続けているが、検証誤差はあるエポックを過ぎたところから上昇に転じた。この状況で取るべき対応として最も適切なものはどれか。
- A学習率をさらに大きくして学習を加速する
- Bエポック数を増やしさらに学習を継続する
- ✓Dropoutやweight decayなどの正則化を導入し、必要に応じて早期終了を検討する
- Dバッチサイズを大きくして勾配のノイズを減らす
解説
訓練誤差は下がる一方で検証誤差が上昇するのは典型的な過学習の兆候である。正則化手法の導入や早期終了によって汎化性能の悪化を防ぐのが適切な対応である。
根拠シラバス「深層学習の基礎 - 深層モデルのための正則化」