16.03.2021

Риманова информационная метрика


Риманова информационная метрика (англ. Riemann information metric) — единственная с точностью до постоянного множителя риманова метрика на совокупностях распределений вероятностей, инвариантная относительно статистических решающих правил категории. Для двух распределений вероятностей P {displaystyle P} и Q {displaystyle Q} на одном и том же измеримом пространстве элементарных исходов ( Ω , A ) {displaystyle (Omega ,{mathfrak {A}})} риманова информационная метрика задается сферическим расстоянием Бхаттачария — Рао:

s ( P , Q ) = 2 arccos ⁡ ∫ Ω P ( d ω ) Q ( d ω ) {displaystyle s(P,Q)=2arccos int _{Omega }^{}{sqrt {P(domega )Q(domega )}}} .

В частности, если распределения имеют плотности соответственно p ( x ) {displaystyle p(x)} и q ( x ) {displaystyle q(x)} , где x ∈ X ⊆ R {displaystyle xin Xsubseteq R} , тогда

s ( P , Q ) = 2 arccos ⁡ ∫ X p ( x ) q ( x ) d x {displaystyle s(P,Q)=2arccos int _{X}^{}{sqrt {p(x)q(x)}}dx} .

Аналогично в дискретном случае:

s ( P , Q ) = 2 arccos ⁡ ∑ i = 1 n p i q i {displaystyle s(P,Q)=2arccos sum _{i=1}^{n}{sqrt {p_{i}q_{i}}}} , где n = | Ω | {displaystyle n=|Omega |} .

Локально риманова информационная метрика определяется количеством информации по Фишеру: для гладкого семейства

{ P t | t ∈ Θ ⊆ R k } ⊂ cap ⁡ ( Ω , A ) {displaystyle {P_{t}|,tin Theta subseteq R^{k}}subset operatorname {cap} (Omega ,{mathfrak {A}})}

в точке P θ {displaystyle P_{ heta }} имеет место

d s 2 = ∑ i , j k d t i d t j I i j ( θ ) {displaystyle ds^{2}=sum _{i,j}^{k}dt^{i}dt^{j}I_{ij}( heta )} ,

где I i j ( θ ) {displaystyle I_{ij}( heta )} — элементы информационной матрицы Фишера. Несмотря на данное свойство метрики Бхаттачария — Рао, в теоретических исследованиях она играет менее важную роль, чем дивергенция Кульбака — Лейблера.






Яндекс.Метрика