Мера количества информации определяется

, если m=z, возможно 8 комбинаций

т.к. 1бит=8

– для равновероятных событий

, где p-априорная вероятность полученная m=2 (“0” или “1”), p=1/m

Для не равновероятных событий

p_i – вероятность получения i-го сигнала

Если заранее удается получить информацию о получение какого-либо события, то количество информации = 0, => p=1 => Мера неопределенности – энтропия = 0, если известно что какое-либо событие произойдет.

n-состояние

8 состояний n=3

16 сост-й n=4

32 сост-й n=5

Для английского алфавита (26 букв)

При отсутствии помех в канале вся информация, подводимая ко входному каналу, поступает на его выход без искажений. Если количество информации на входе канала обозначить I(a_вх), то при отсутствии помех эта величина характеризует и количество информации в принятом сигнале.

Помехи искажают сигнал. Эффект возд-я случайных помех характеризуется условной вероятностью P передачи сообщения.В общем случае принятому в условиях действия помех сигналу может соответствовать несколько различных сообщений и какое из них действительно на выходе не известно => Количество сведений передаваемых по каналу связи будет меньше количества сведений на входе на величин –называется условной энтропией (надежность)

(если событие произойдет, Н=0)

Канал радиосвязи обеспечивает симплексную передачу. Для дуплексной связи требуется два радиоканала.

Дата добавления: 2015-07-08