開発・運用環境(エッジコンピューティング、分散処理、アクセラレータ、環境構築)
モデル軽量化手法である「量子化(quantization)」と「枝刈り(pruning)」の違いに関する記述として正しいものはどれか。
- A量子化は不要な重みを削除する手法であり、枝刈りは数値精度を下げる手法である
- B量子化と枝刈りはどちらもモデルの層数を増やす手法である
- ✓量子化は重みやパラメータの数値表現のビット精度を下げる手法であり、枝刈りは重要度の低い重みやニューロンを削除する手法である
- D量子化は学習データを削減する手法であり、枝刈りは学習エポック数を削減する手法である
解説
量子化は32ビット浮動小数点を8ビット整数などより少ないビット数で近似的に表現することで計算量とメモリを削減する手法であり、枝刈りは寄与度の低い重みや接続、ニューロンそのものを削除してモデルを疎(スパース)にする手法である。両者はアプローチが異なる軽量化技術である。
根拠シラバス「開発・運用環境」アクセラレータ・環境構築(モデル軽量化)