Постановка задачи. Как подчеркивалось выше, для применения математического аппарата теории информации

Как подчеркивалось выше, для применения математического аппарата теории информации прибегают к замене реальных объектов (систем), называемых источниками информации (ИИ), их моделями. Основная особенность моделирования конкретного объекта (системы) состоит в том, что свойства объекта (или состояния системы) отображаются с помощью абстрактного алфавита, называемого еще первичным алфавитом ИИ и содержащего ограниченное множество элементов. Для отображения каждого свойства (состояния) может использоваться как одиночный элемент первичного алфавита, так и некоторая комбинация элементов - последовательность ограниченной длины. В любом случае количества элементов первичного алфавита достаточно, чтобы в полной мере описать свойства ИИ. Например, моделируемый объект обладает четырьмя свойствами. Если каждое свойство описывать одиночным элементом, то первичный алфавит должен содержать четыре элемента. Пусть это будет алфавит X{x₁,x₂,x₃,x₄}. Чтобы передать сообщения по каналу связи, элементы первичного алфавита нужно преобразовать в сигналы с различными качественными признаками. В рассматриваемом случае количество различных качественных признаков сигналов, передаваемых по СПИ, должно быть равно четырем. Некоторые из вариантов задания качественных признаков сигналов показаны на рис.6.

В частности, на рис.6,а элементам первичного алфавита соответствуют прямоугольные положительные импульсы напряжения одинаковой амплитуды и различной длительности. На рис.6,б - прямоугольные положительные импульсы напряжения различной амплитуды и одинаковой длительности. На рис.6,в - прямоугольные импульсы напряжения различной полярности, различной амплитуды и одинаковой длительности.

Использование алфавита А{a,b}, содержащего два элемента, не позволит каждое свойство объекта описать одиночным элементом. Для моделирования данного ИИ каждое его свойство должно быть описано комбинацией из двух элементов, при этом общее количество комбинаций, как и свойств объекта, равно четырем: aa, ab, ba, bb. В обоих случаях для передачи полной информации об объекте нужно будет сформировать четыре сообщения. Однако во втором случае количество качественных признаков передаваемых сигналов будет равно двум, хотя для передачи сообщения об одном свойстве объекта потребуется уже два сигнала, а не один, как это было в предыдущем случае.

С целью упрощения аппаратной части СПИ стремятся свести к минимуму количество качественных признаков передаваемых сигналов (в цифровых СПИ до двух). Иными словами, количество однозначно различимых сигналов, предназначенных для передачи сообщений, значительно меньше, чем элементов первичного алфавита ИИ. Если количество к₁ элементов первичного алфавита больше количества к₃ однозначно различимых качественных признаков передаваемых по СПИ сигналов, то для однозначного представления сообщений необходим процесс кодирования. Кодирование сводится к однозначному преобразованию элементов одного алфавита в комбинации элементов другого. Код есть правило (алгоритм, закон), по которому осуществляется кодирование. Процесс восстановления содержания сообщений по данному коду называется декодированием. Сохраним обозначения первичного алфавита ИИ X{x_i}, i = 1, 2,…,к₁ и вторичного алфавита Z{z_k}, k = 1, 2,…,к₃, которым характеризуется шифратор СПИ (смотри материал по бинарным каналам связи в разделе 3). Таким образом, вторичный - это алфавит, при помощи которого элементы первичного алфавита преобразуются в ту форму, в которой они обрабатываются либо транспортируются. Итак, процесс кодирования необходим во всех случаях, когда к₁ > к₃.

Количество однозначно различимых качественных признаков к₃, составляющих вторичный алфавит, определяет основание кода. Так, у кода Морзе, вторичный алфавит которого составляют тире, точка и пауза, основание - три, а код относится к троичным кодам. В цифровых СПИ применяется двоичный код.

Возможность преобразования элементов первичного алфавита X{x_i} в кодовые комбинации, составленные из элементов вторичного алфавита Z{z_k}, определяется соотношением

где n - длина кодовой комбинации во вторичном алфавите.

Код представляет собой полный набор всех возможных кодовых комбинаций во вторичном алфавите, построенных по заданному закону. Комбинации элементов, принадлежащие данному коду, называются кодовыми словами (или кодовыми комбинациями). В каждом конкретном случае могут быть использованы все либо часть кодовых слов, принадлежащих данному коду.

Элементы вторичного алфавита служат лишь переносчиками сообщений. Сообщением при этом является элемент первичного алфавита. Пусть шифратор выполняет поэлементное кодирование сообщений, при котором каждому элементу x_i (i = 1 - к₁) ИИ ставится в соответствие свое кодовое слово N_i и все кодовые слова различны. При этих условиях для ИИ без памяти p(x_i) = p(N_i), а для ИИ с памятью на один элемент p(x_j|x_i) = p(N_j|N_i). Отсюда следует, что энтропия H(N) [H(N|N)] и, следовательно, количество информации I(N) [I(N|N)], которое содержится в одном кодовом слове, соответственно равны энтропии и среднему количеству информации, которое содержится в сообщении, выдаваемом:

- ИИ без памяти

- ИИ с памятью на один элемент

Для передачи закодированного сообщения в пространстве и во времени соответствующие ему сигналы, формируемые шифратором, могут быть подвержены модуляции. В простейших СПИ модулятор и демодулятор могут отсутствовать. Также в ряде СПИ функции шифратора и модулятора (демодулятора и дешифратора) могут совмещаться в одном устройстве.

Дата добавления: 2015-07-11