開発・運用環境（エッジコンピューティング、分散処理、アクセラレータ、環境構築）
組み込み機器（エッジデバイス）にディープラーニングモデルをデプロイする際、計算資源とメモリが限られているという制約がある。この制約下で推論速度とメモリ使用量を改善するために有効な手法として最も適切なものはどれか。
- Aモデルの層数とパラメータ数を増やして表現力を高める
- Bバッチサイズを大きくして推論を行う
- C学習データを拡張して精度を向上させる
- ✓モデルの量子化により重みを低ビット精度で表現する
解説
量子化は重みや活性化を32ビット浮動小数点から8ビット整数など低ビット精度で表現することでモデルサイズと計算量を削減し、限られた資源のエッジデバイスでの推論に有効である。モデル拡大やデータ拡張はむしろ資源制約を悪化させる。
根拠シラバス「開発・運用環境」エッジコンピューティング