資格スワイプ
数学的基礎(確率・統計、情報理論)

言語モデルなどの評価指標として用いられる「パープレキシティ」の説明として正しいものはどれか。

  • ✓交差エントロピーの指数関数(例えば2の交差エントロピー乗)として定義され、値が小さいほどモデルの予測性能が良いことを示す指標である。
  • B相互情報量を0から1の範囲に正規化した指標である。
  • CKLダイバージェンスと同一の指標であり、単位は常にビットで表される。
  • D分散を平均で割った値であり、変動係数とも呼ばれる指標である。

解説

パープレキシティは交差エントロピーHを用いて2^H(または自然対数を用いる場合はe^H)として定義され、モデルの予測がどれだけ「困惑」しているかを表す。値が小さいほどモデルの予測性能が高いことを意味する。

根拠シラバス「数学的基礎」内「情報理論」(交差エントロピー、パープレキシティ)

← 前の問題次の問題 →
スワイプでまとめて流す