ディープラーニングの概要と手法
深層学習モデルの学習において、訓練データに対する損失は単調に減少し続けているが、検証データに対する損失はあるエポックを境に上昇に転じ始めた。この時点で取るべき対応として最も適切なものはどれか。
- A検証損失の上昇は無視してエポック数をさらに増やし、訓練損失が0に近づくまで学習を続ける
- B学習率をさらに大きくして、検証損失の上昇を早く収束させる
- ✓検証損失が上昇し始めた時点付近のパラメータを採用して学習を打ち切る、いわゆる早期終了を行う
- Dドロップアウト率を0にして、モデルの表現力を最大限まで高める
解説
訓練損失が下がり続ける一方で検証損失が上昇に転じるのは過学習の兆候である。検証損失が悪化し始めた時点のパラメータを採用して学習を打ち切る早期終了は、過学習を防ぐ代表的な手法である。
根拠シラバス項目: ディープラーニングの概要 - 正則化