数学的基礎(確率・統計、情報理論)
言語モデルなどの評価指標として用いられる「パープレキシティ」の説明として正しいものはどれか。
- ✓交差エントロピーの指数関数(例えば2の交差エントロピー乗)として定義され、値が小さいほどモデルの予測性能が良いことを示す指標である。
- B相互情報量を0から1の範囲に正規化した指標である。
- CKLダイバージェンスと同一の指標であり、単位は常にビットで表される。
- D分散を平均で割った値であり、変動係数とも呼ばれる指標である。
解説
パープレキシティは交差エントロピーHを用いて2^H(または自然対数を用いる場合はe^H)として定義され、モデルの予測がどれだけ「困惑」しているかを表す。値が小さいほどモデルの予測性能が高いことを意味する。
根拠シラバス「数学的基礎」内「情報理論」(交差エントロピー、パープレキシティ)