Студопедия
Случайная страница | ТОМ-1 | ТОМ-2 | ТОМ-3
АрхитектураБиологияГеографияДругоеИностранные языки
ИнформатикаИсторияКультураЛитератураМатематика
МедицинаМеханикаОбразованиеОхрана трудаПедагогика
ПолитикаПравоПрограммированиеПсихологияРелигия
СоциологияСпортСтроительствоФизикаФилософия
ФинансыХимияЭкологияЭкономикаЭлектроника

Примеры решения задач. Пример 1. Определить количество информации, связанное с появлением каждого символа в

Утверждено редакционно-издательским советом университета | Понятие информации | Свойства информации | Измерение количества информации | Данные - это зарегистрированные сигналы. | Операции с данными | Кодирование данных двоичным кодом | Кодирование графических данных | Задача 2. |


Читайте также:
  1. I. ЦЕЛИ И ЗАДАЧИ ПРЕДДИПЛОМНОЙ ПРАКТИКИ
  2. II. Цели и задачи Конкурса
  3. II. Цели и задачи преддипломной практики.
  4. III. Задачи Коммунистического Интернационала в борьбе за мир, против империалистической войны
  5. III. Решение дела и документальное оформление принятого решения.
  6. III. ЦЕЛИ И ЗАДАЧИ
  7. III. ЦЕЛИ, ЗАДАЧИ И ПРИНЦИПЫ ДЕЯТЕЛЬНОСТИ ПЕРВИЧНОЙ ОРГАНИЗАЦИИ ПРОФСОЮЗА

Пример 1. Определить количество информации, связанное с появлением каждого символа в сообщениях, записанных на русском языке.

Решение:

Возьмем русский алфавит, который содержит 33 буквы и знак «пробел» для разделения слов.

По формуле Хартли

Но в словах русского языка различные буквы встречаются неодинаково часто. Ниже приведем таблицу 2 вероятностей частоты употребления различных знаков русского алфавита, полученную на основе анализа больших объемов текстов.


 

Таблица 2 – частотность букв русского алфавита

i символ символ i символ
  _ 0,175   Л 0,035   Б 0,014
  О 0,090   К 0,028   Г 0,012
  Е 0,072   М 0,026   Ч 0,012
  Е 0,072   Д 0,025   Й 0,010
  А 0,062   П 0,023   Х 0,009
  И 0,062   У 0,021   Ж 0,007
  Т 0,053   Я 0,018   Ю 0,006
  Н 0,053   Ы 0,016   Ш 0,006
  С 0,045   З 0,016   Ц 0,004
  Р 0,040   Ь 0,014   Щ 0,003
  В 0,038   Ъ 0,014   Э 0,003
              Ф 0,002

В случае, когда вероятности результатов опыта неодинаковы, применим формулу Шеннона:

В случае равновероятности событий: и формула Шеннона переходит в формулу Хартли.

Возьмем формулу Шеннона для подсчета:

Ответ: 4,72 бита

Пример 2. В коробке 3 синих и 21 красных кубиков. Какое количество информации несет сообщение, что из коробки достали синий кубик?

Для решения этой задачи можно использовать следующие формулы:

Вероятность события: p=K/N,

где N - общее число возможных исходов

K - число возможных исходов интересующего нас события

Количество информации: i=log2(1/p)

N/K= 2i

 

Решение:

N=3+21=24 всего кубиков

K=3 – синих (его достали)

N/K=24/3=8

2i=8

i=3 бита

Ответ: 3 бита.

Пример 3. В колоде содержится 32 карты. Из колоды случайным образом вытянули туза, потом его положили обратно и перетасовали колоду. После этого из колоды опять вытянули этого же туза. Какое количество бит информации в сумме содержат эти два сообщения?

Решение:

N=32

K1=4 (4 туза в колоде)

K2=1(в колоде один туз определенной масти, который был вытянут в первый раз)

N/ K1=32/4=8

2i1=8

i1=3 бита

N/ K2=32/1=32

2i2=32

i2=5 бита

i1+ i2=3+5=8 бит

Ответ: 8 бит

 

 


Дата добавления: 2015-08-27; просмотров: 69 | Нарушение авторских прав


<== предыдущая страница | следующая страница ==>
Задачи и упражнения для самостоятельного выполнения| Темы для рефератов

mybiblioteka.su - 2015-2024 год. (0.011 сек.)