Fisher Information Matrix

FIMはKL距離のTaylor展開に表れる。

  
  
  第２項を２次までTaylor展開する。
  
  １階微分の項は消える（Lem.1）
  
  ヘッセ行列（計量行列）はFIMに変形できる（Lem.2）
  
  

Lem.1
密度関数の性質を使う。

Lem.2
Lem.1と同様の操作を繰り返す。