数学的基礎（確率・統計、情報理論）
ある離散確率変数が3つの値を取り、それぞれの生起確率が0.5、0.25、0.25であるとき、この確率分布のエントロピー（ビット単位、log2使用）に最も近い値はどれか。
- A1.0
- ✓1.5
- C2.0
- D0.75
解説
H=-(0.5log2 0.5+0.25log2 0.25+0.25log2 0.25)=-(0.5×(-1)+0.25×(-2)+0.25×(-2))=0.5+0.5+0.5=1.5ビットとなる。
根拠シラバス「数学的基礎」内「情報理論」（エントロピー）