開発・運用環境(エッジコンピューティング、分散処理、アクセラレータ、環境構築)
1台のGPUで1エポックの学習に40分かかるモデルを、通信オーバーヘッドを無視できると仮定して4台のGPUによるデータ並列で学習する場合、理論上1エポックにかかる時間に最も近いものはどれか。
- A40分
- B20分
- ✓10分
- D4分
解説
データ並列では各GPUが全体のデータの一部を分担して処理するため、通信オーバーヘッドを無視すると処理時間はGPU台数に反比例し、40分÷4台=10分となる。
根拠シラバス「開発・運用環境」分散処理