深層学習の基礎(順伝播型ネットワーク、最適化、正則化、CNN、RNN、Transformer等)
数百枚程度の少量の画像データで新たな分類タスクを解くために、ImageNetで事前学習済みのCNNを利用した転移学習を行う。データ量が少ないことを踏まえた適切なアプローチとして最も適切なものはどれか。
- A事前学習済みモデルの重みを完全に無視し構造だけ流用する
- B全層をランダム初期化し直しゼロから学習する
- C学習率を非常に大きく設定して全層を同時に大きく更新する
- ✓事前学習済みの畳み込み層の重みを固定(freeze)し、新しいタスクに合わせた全結合層のみを学習する
解説
データ量が少ない場合、事前学習済みの特徴抽出部分(畳み込み層)はそのまま活用し、タスク固有の出力層のみを新たに学習することで過学習を抑えつつ効率よく学習できる。全層をゼロから学習し直すと少量データでは過学習しやすい。
根拠シラバス項目「汎化性能向上のためのテクニック」