開発・運用環境(エッジコンピューティング、分散処理、アクセラレータ、環境構築)
あるGPUで大規模なCNNモデルを学習していたところ「CUDA out of memory」エラーが発生した。モデルの精度への影響をできるだけ抑えつつ対処する方法として最も適切なものはどれか。
- ✓ミニバッチサイズを小さくする
- B学習率を大きくする
- Cエポック数を増やす
- D全結合層のユニット数を増やす
解説
GPUメモリ不足は主に1ステップあたりの中間活性化やパラメータのメモリ消費量が原因であり、ミニバッチサイズを小さくすることでメモリ消費を直接抑えられる。学習率やエポック数の変更、モデルの拡大はメモリ不足の解決にはならない。
根拠シラバス「開発・運用環境」アクセラレータ・環境構築