開発・運用環境(エッジコンピューティング、分散処理、アクセラレータ、環境構築)
あるモデルの重みが32ビット浮動小数点(FP32)で表現され、モデル全体のパラメータ数が1000万個であるとき、全パラメータを8ビット整数(INT8)に量子化した場合、モデルサイズはおよそ何分の1になるか。
- A1/2
- ✓1/4
- C1/8
- D1/16
解説
FP32は1パラメータあたり4バイト、INT8は1バイトであるため、モデルサイズは4バイト÷1バイト=4分の1に削減される。
根拠シラバス「開発・運用環境」アクセラレータ・環境構築(モデル軽量化)