情報エントロピー
AIC (赤池情報量基準)
· ☕ 1 min read
真の分布 gと得られた分布 fのKLダイバージェンスを最小化したい → ( fgの交差エントロピー) - ( gのエントロピー) を最小化したい で, 真の分布 gが得られないので, 色々と強い仮定を連ねると, 例のあの式が導出されるみたい 割とAICの導出は難しい https://gyazo.com/fdf004f02bebf52589f0be3e740535f7 ...