Студопедия
Случайная страница | ТОМ-1 | ТОМ-2 | ТОМ-3
АвтомобилиАстрономияБиологияГеографияДом и садДругие языкиДругоеИнформатика
ИсторияКультураЛитератураЛогикаМатематикаМедицинаМеталлургияМеханика
ОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРелигияРиторика
СоциологияСпортСтроительствоТехнологияТуризмФизикаФилософияФинансы
ХимияЧерчениеЭкологияЭкономикаЭлектроника

Лабораторная работа №6. Типичные и нетипичные комбинации источника дискретных сообщений

Читайте также:
  1. IX. Самостоятельная работа студентов.
  2. VIII. ТЕХНИЧЕСКИЕ ТРЕБОВАНИЯ К РАБОТАМ
  3. А где ты работаешь?
  4. Активная работа глаза
  5. Алгоритмы и тренинговая работа
  6. Анализ динамики среднего уровня оплаты труда. Анализ дифференциации работающих по найму по уровню оплаты труда
  7. Анализ работы источника постоянного тока.

 

Все последовательности, длинной выдаваемые дискретным источником сообщений можно разделить на типичные и не типичные. Например, типичная комбинация для дискретного источника сообщений, выдающий осмысленный текст на русском языке, это слова с средней длинной символов. Не типичная комбинация, в этом случае будет бессмысленный набор символов длинной .

Если, в качестве выходной информации источника рассматривать типичные комбинации (обозначим его как ), то максимально возможная энтропия такого источника будет равна

В этом случае энтропию исходного источника сообщений, через количество типичных комбинаций можно записать как

Исходя из (6.1) количество типичных комбинаций можно выразить как

(6.2)

С учетом того, что избыточность источника , , формулу (6.2) можно переписать как

.

Общее количество комбинаций источника дискретных сообщений длиной равно

Соотношение между типичными и нетипичными комбинациями можно выразить как

, (6.3)

. (6.4)

Например, если в качестве источника дискретных сообщений рассмотреть текст, написанный на русском языке, то средняя длинна слова будет равна шести символам. Будем рассматривать в качестве типичной комбинации рассматривать осмысленные слова, а в качестве нетипичной комбинации бессмысленный набор символов длинной в шесть символов.

В этом случае при и

,

.

Исходя из выше изложенного можно утверждать, что всего в русском языке можно построить возможных слов, но осмысленными из них будет только слов.

 


Дата добавления: 2015-10-21; просмотров: 136 | Нарушение авторских прав


Читайте в этой же книге: Порядок выполнения лабораторной работы | Этап III. Выбор регулятора для системы управления электроприводом | Порядок выполнения III этапа лабораторной работы | Лабораторная работа №2. Модулированные сигналы и их спектры | Порядок выполнения лабораторной работы | Этап II | Лабораторная работа №3. Импульсные виды модуляции | Лабораторная работа №4. Энтропия источника дискретных сообщений без памяти | Этап II | Лабораторная работа №5. Энтропия источника дискретных сообщений с памятью |
<== предыдущая страница | следующая страница ==>
Этап II| Лабораторная работа №7. Энтропия источника непрерывных сообщений

mybiblioteka.su - 2015-2024 год. (0.006 сек.)