Вычисление частной информации

; (13)

; ; (14)

; , (15)

где — количество информации в сложной системе при совместном появлении событий и ;

— условная вероятность появления события относительно события в сложной системе;

— вероятности появления события ;

— частная информация.

Частная информация о событии получается в результате сообщения о другом событии и равна логарифму отношения вероятности первого события после сообщения к вероятности его же до сообщения.

— полная взаимная информация.

Зная канальную матрицу и матрицу , вычислим частную информацию по формуле (13):

I(a1,b1) = log₂ (0.640 /0.190) = log₂ 3.368 = 1.7519 (бит);

I(a1,b2) = log₂ (0.040 /0.190) = log₂ 0.211 = -2.2447 (бит);

I(a1,b3) = log₂ (0.040 /0.190) = log₂ 0.211 = -2.2447 (бит);

I(a2,b1) = log₂ (0.160 /0.390) = log₂ 0.410 = -1.2863 (бит);

I(a2,b2) = log₂ (0.960 /0.390) = log₂ 2.462 = 1.2998 (бит);

I(a2,b3) = log₂ (0.190 /0.390) = log₂ 0.487 = -1.0380 (бит);

I(a3,b1) = log₂ (0,200/0.420) = log₂ 0.476 = -1.0710 (бит);

I(a3,b2) = log₂ (0,000/0.420) = log₂ 0.000 = 0.0000 (бит);

I(a3,b3) = log₂ (0.770/0.420) = log₂ 1.833 = 0.8742 (бит).

Получили следующую матрицу :

1.7519 -2.2447 -2.2447

= -1.2863 1.2998 -1.0380

-1.0710 0.0000 0.8742

Зная I(a_i,b_j) и формулу (14), вычислим I(A,b_j):

I(A,b1) = 0.6400 *1.7519 + 0.1600*(-1.2863) + 0.2000*(-1.0710) =

= 1.1212 – 0.2058 – 0.2142= 0.7012 (бит);

I(A,b2) = 0.0400 *(-2.2447) + 0.9600 *1.2998 +0.0000*0.0000 =

= -0.0898 + 1.2478 = 1.1580 (бит);

I(A,b3) = 0.0400*(-2.2447) + 0.1900*(-1.0380) + 0.7700*0.8742 =

= -0.0898 - 0.1972+ 0.6731 = 0.3861 (бит);

Вычислимполную взаимную информацию по формуле (15):

=0.2500*0.7012+0.2700*1.1580+0.4800*0.3861= 0.1753+0.3127+0.1853=

= 0.6733 (бит).

Проверка

1. I (A,B) = H (A) - H (A/B);

I (A,B) = 1.5106 - 0.8373 = 0.6733;

2. I (A,B) = H (B) - H (B/A);

I (A,B) = 1.5183 - 0.8449 = 0.6734;

3. I(A,B) = H (A) + H (B) - H (A,B);

I (A,B) = 1.5106 + 1.5183 - 2.3555= 0.6734.

Оценим погрешность вычисления I(A,B):

Aбсолютная погрешность вычисления:

ΔI(A,B)=|0.6734-0.6733|=0.0001 (бит).

Относительная погрешность вычисления:

δ= ΔI(A,B)/I(A,B)*100%;

δ=0.0001/0.6733*100%=0.0149%.

Делаем вывод о корректности произведённых вычислений.

Дата добавления: 2015-11-30