Измерение информации. Содержательный подход.
С точки зрения человека информация – это знания, которые мы получаем из внешнего мира. Количество информации, заключенное в сообщении, должно быть тем больше, чем больше оно пополняет наши знания.
Что такое бит?
Сообщение, уменьшающее неопределенность знания в два раза, несет 1 бит информации.
Что такое неопределенность знания? Неопределенность знания о
результате некоторого события (бросания монеты или игрального кубика, вытаскивание жребия и др.) это количество возможных результатов. Причем ни один из этих результатов не имеет преимуществ перед другими. То есть они равновероятны.
Пример: «Бросание монеты». Узнав результат бросания монеты, вы получили 1 бит информации.
Задача №1. Студент на экзамене может получить 2, 3, 4, 5 с одинаковой вероятностью. Вы узнали, что он получил 4. Сколько бит информации вы получили?
Задача №2. На книжном стеллаже 8 полок. Книга может быть поставлена на любую из них. Сколько информации содержит
сообщение о том, где находится книга?
Главная формула информатики
Монета
| N=2 | i=1 бит |
Оценки | N=4 | i=2 бита
|
Стеллаж
| N=8 | i=3 бита |
N=2i | N – неопределенность знания | i – количество информации |
Задача №3. Сколько бит информации несет сообщение о том, что из колоды в 32 карты достали «даму пик»?
Задача №4. Проводятся две лотереи: «4 из 32» и «5 из 64». Сообщение о результатах какой из лотерей несет больше информации и во сколько раз?
Дата добавления: 2015-11-04; просмотров: 50 | Нарушение авторских прав
| <== предыдущая лекция | | | следующая лекция ==> |
| Должна ли власть прислушиваться к критике в свой адрес? | | | - стало больше кожаной обуви |