Студопедия
Случайная страница | ТОМ-1 | ТОМ-2 | ТОМ-3
АвтомобилиАстрономияБиологияГеографияДом и садДругие языкиДругоеИнформатика
ИсторияКультураЛитератураЛогикаМатематикаМедицинаМеталлургияМеханика
ОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРелигияРиторика
СоциологияСпортСтроительствоТехнологияТуризмФизикаФилософияФинансы
ХимияЧерчениеЭкологияЭкономикаЭлектроника

Оценка избыточности представления информации при использовании меры Хартли

Читайте также:
  1. Cостав и расчетные показатели площадей помещений центра информации - библиотеки и учительской - методического кабинета
  2. E. Организм контактирует с внутренними объектами — например, воспоминаниями, эротическими фантазиями, мысленными представлениями — субъективными образами.
  3. I БУХГАЛТЕРСКИЙ УЧЕТ ПРИ I ИСПОЛЬЗОВАНИИ АККРЕДИТИВНОЙ ФОРМЫ РАСЧЕТОВ
  4. I. Виды угроз информации.
  5. II. Этапы преобразования информации стратегического менеджмента.
  6. II. Этапы преобразования информации стратегического менеджмента.
  7. III. Назначение криптографических методов защиты информации.
Помощь в написании учебных работ
1500+ квалифицированных специалистов готовы вам помочь

Величина И может быть определена как для одного любого элемента последовательности, так и для последовательности в целом.

Если элементами последовательности могут быть элементы некоторого множества, состоящего из к1 элементов, а на i - й позиции последовательности может стоять только один из к11 элементов этого множества, причем к11 <= к1, то избыточность i - го элемента определяется как величина

где IЭ МАКС - максимальное количество информации, которое может быть заключено в элементе;

IЭ i - количество информации в i - м элементе.

Отношение logк11/logк1 называют коэффициентом сжатия или относительной информацией. Избыточность ИЭ i определяет недогруженность конкретного элемента, стоящего на i - й позиции последовательности. Неравенство к11 < к1 означает, что на i - й позиции последовательности могут стоять не все элементы из множества к1 (смотри задачу 1). Из (68) видно, что 0 <= ИЭi < 1. ИЭi = 0 только тогда, когда на i - й позиции последовательности может стоять любой из к1 элементов множества, то есть к11 = к1.

Рассмотрим теперь последовательность длиной n, элементами которой могут быть элементы того же множества. Избыточность последовательности определяется как величина

где IП МАКС - максимальное количество информации, которое может содержаться в последовательности (см. формулу (6));

IП - количество информации, заключенное в последовательности при заданном ограничении на количество комбинации ее элементов (см. формулу (5)).

Избыточность ИП определяет недогруженность последовательности за счет ограничений на количество комбинаций элементов, принадлежащих множеству к1. Из (69) видно, что 0 <= ИП <= 1. ИП = 0, когда допустимы любые комбинации элементов.

Если ИЭi > 0, то это означает, что для представления того количества информации, которое заключено в i - м элементе, можно обойтись множеством, состоящим из меньшего, чем к1, количества элементов, то есть множество с к1 элементами для i - й позиции последовательности - избыточно.

Когда ИП > 0, это значит, что количество информации, заключенное в последовательности, может быть при том же количестве элементов к1 и при допустимости всех возможных комбинаций представлено последовательностью меньшей длины, то есть что исходная последовательность является избыточной для того количества информации, которое она содержит.

Задача 12. Сообщение "дата" передается с помощью десятичных цифр в формате, составленном из трех блоков, разделенных друг от друга пробелом
ДД_ММ_ГГГГ ,
где ДД - две позиции для дня; ММ - две позиции для месяца; ГГГГ - четыре позиции для года; появление цифр на позициях не является случайным, а подчиняется порядку смены дат.

Определить:
а) избыточность информации, приходящуюся на каждую позицию сообщения "дата", за исключением пробелов;
б) избыточность информации, приходящуюся на каждый из трех блоков сообщения;
в) избыточность информации, приходящуюся на сообщение в целом.

Решение: (исходные данные для решения задачи позаимствуем из решения задачи 1)
а) будем условно нумеровать позиции сообщения "дата" слева-направо (исключая пробелы):
- из условия задачи известно, что сообщение "дата" передается с помощью десятичных цифр. Следовательно, формируемый это сообщение ИИ имеет алфавит, состоящий из десяти равновероятных элементов - цифр - от 0 до 9 или к1 = 10. Максимальное количество информации, заключенной в одном элементе, будет равно неопределенности на один элемент первичного алфавита и для ее вычисления применима формула (7), то есть
IЭ МАКС = log2 к1 = log210 = 3,32 бита;
- избыточность информации на элемент первой позиции блока ДД равна
ИЭД1 = 1 - IД1 / IЭ МАКС = 1 - 2 / 3,32 = 0,398;
- избыточность информации на элемент второй позиции блока ДД равна
ИЭД2 = 1 - IД2 / IЭ МАКС = 1 - 3,32 / 3,32 = 0;
- избыточность информации на элемент первой позиции блока ММ равна
ИЭМ1 = 1 - IМ1 / IЭ МАКС = 1 - 1 / 3,32 = 0,699;
- избыточность информации на элемент второй позиции блока ММ равна
ИЭМ2 = 1 - IМ2 / IЭ МАКС = 1 - 3,32 / 3,32 = 0;
- избыточность информации на элемент каждой и четырех позиций блока ГГГГ равна
ИЭГ1 = ИЭГ2 = ИЭГ3 = ИЭГ4 = 1 - IГ / IЭ МАКС = 1 - 3,32 / 3,32 = 0;
б) блок ДД представляет собой последовательность из двух элементов, то есть nДД = 2. Максимальное количество комбинаций равно NДД max = к1n = 102 = 100. Разрешенное количество комбинаций равно NДД = 31. Тогда на основании (69)
ИПДД = 1 - log2 NДД / log2NДД max = 1 - log231 / log2100 = 0,2545;
блок ММ также представляет собой последовательность из двух элементов, то есть nММ = 2. Максимальное количество комбинаций равно NММ max = к1n = 102 = 100. Разрешенное количество комбинаций равно NММ = 12. Тогда на основании (69)

ИПММ = 1 - log2 NММ / log2 NММ max = 1 - log2 12 / log2100 = 0,4605; блок ГГГГ представляет собой последовательность из четырех элементов, то есть nГГГГ = 4. Количество разрешенных комбинаций и максимальное количество комбинаций равны, то есть NГГГГ = NГГГГ max = к1n = 104 = 10000 комбинаций. Тогда на основании (69)
ИПГГГГ = 1 - log2 NГГГГ / log2 NГГГГ max = 1 - log2 10000 / log210000 = 0;
в) разрешенное количество комбинаций в сообщении "дата" равно NДАТА = NДД * NММ * NГГГГ = 31 * 12 * 10000 и максимальное количество комбинаций равно NДАТА max = NДД max * NММ max * NГГГГ max = 100 * 100 * 10000, тогда на основании (69)
ИПДАТА = 1 - log2 NДАТА / log2 NДАТА max = = 1 - log2 (31 * 12 * 10000) / log2(100 * 100 * 10000) = 0,179.


Дата добавления: 2015-07-11; просмотров: 66 | Нарушение авторских прав


 

 

Читайте в этой же книге: Постановка задачи | Понятие энтропии как меры неопределенности, неполноты знаний | Свойства безусловной энтропии | Условная энтропия | Свойства условной энтропии | Совместная энтропия или энтропия объединения | Дискретные источники информации и их основные характеристики | Дискретные каналы связи и их основные характеристики | Бинарные (двоичные) каналы связи | Вычисление количества информации при передаче сообщений от дискретного источника информации по дискретному каналу связи |
<== предыдущая страница | следующая страница ==>
Понятие избыточности информации| Оценка избыточности представления информации дискретного ИИ

mybiblioteka.su - 2015-2022 год. (0.012 сек.)