|
Читайте также: |
2 кГц. Будем считать, что используется модуляция 8-FSK. Скорость передачи данных равна 1,2 Кбит/с.
а) Определите ширину полосы, в которой выполняются скачки частоты.
б) Найдите скорость передачи элементарных сигналов.
в) Сколько элементарных сигналов содержится в каждом информационном символе?
г) Найдите коэффициент расширения спектра сигнала.
12.7. На рис. 12.16 (раздел 12.4.5) приводится блок-схема демодулятора с быстрой перестройкой частоты (FFH). Изобразите блок-схему демодулятора с медленной перестройкой частоты (SFH) и объясните работу этой схемы.
12.8. Найдите среднее и среднеквадратическое отклонение времени, необходимого для детектирования последовательности, модулированной BPSK с псевдослучайным кодом. Последовательность передается со скоростью 10 миллионов элементарных сигналов в секунду. Для детектирования используется повторяющаяся процедура поиска с одновременной обработкой 100 элементарных сигналов. Последовательность считается обнаруженной, когда 100 полученных и сгенерированных элементарных сигналов совпадают. Отношение энергии полученного сигнала к спектральной плотности мощности шума составляет 9,6 дБ. Несоответствие во времени между полученным и сгенерированным кодами равно 1 мс. Будем считать вероятность ложного детектирования последовательности пренебрежимо малой.
12.9. В системе связи CDMA 11 терминалов равной мощности передают сигналы на центральный узел. Каждый терминал передает информацию со скоростью 1 Кбит/с, используя сигнал расширенного спектра с использованием метода прямой последовательности, модулированный BPSK. Скорость передачи сигнала равна 100 000 элементарных сигналов в секунду.
а) Найдите отношение энергии, необходимой для передачи одного бита, к спектральной плотности мощности интерференции (EtJh) с сигналами от других пользователей. Будем считать, что шумы, получаемые приемником, ничтожно малы по сравнению с интерференцией между пользователями.
б) Как изменится отношение (£*//<>), если все пользователи удвоят мощность выходного сигнала?
в) Необходимо увеличить количество пользователей до 101, при этом мощность выходных сигналов должна остаться равной. Как сохранить неизменным отношение £*//0?
12.10. Система CDMA использует расширение спектра методом прямой последовательности. Ширина полосы передачи данных составляет 10 кГц, а полосы расширенного спектра — 10 МГц. При передаче единичного сигнала отношение £*/Л/0 для приемника равно 16 дБ.
а) Если необходимое значение (EJNo + /о) равно 10 дБ, сколько абонентов с одинаковой мощностью выходного сигнала могут одновременно использовать полосу? Учесть в решении шумы, поступающие на приемник.
б) Мощность передаваемого сигнала каждого пользователя снижена на 3 дБ. Сколько абонентов с равной выходной мощностью смогут использовать полосу?
в) Если значение полученного EJNo —» °° для каждого приемника, какое максимальное количество абонентов могут одновременно использовать полосу?
12.11. Для устранения эффектов многолучевого распространения используется система DS/SS. Разница пути распространения между прямым и побочным сигналами составляет 100 м. Какой должна быть скорость передачи элементарных сигналов для предотвращения многолучевой интерференции?
12.12. Необходимо установить связь между наземным передатчиком и синхронно работающим спутником при наличии умышленных помех. Скорость передачи данных равна 1 Кбит/с. Наземная станция использует 60-футовую антенну (60 футов = 18,288 метров). Для защиты от умышленных помех, применяется сигнал, расширенный методом прямой последовательности, со скоростью передачи 10 Мбит/с. Станция умышленных помех использует 150-футовую антенну (150 футов = 45,72 метра); мощность ее передатчика равна 400 кВт. Будем считать потери, связанные с пространственными факторами и распространением сигналов, равными для обеих станций. Какой должна быть мощность передатчика наземной станции, чтобы отношение EJJo спутникового приемника было равно 16 дБ? Шумы приемника считать пренебрежимо малыми.
12.13. Данные, получаемые со скоростью 75 бит/с, закодированы. Степень кодирования равна 1/2. Кодированные биты модулируются с использованием 8-FSK. Символы FSK разделяются с помощью скачков частоты (2000 скачков/с).
а) Найдите скорость передачи элементарных сигналов.
б) Какова кратность разнесения (число независимых копий сигнала)?
в) Если в канале имеется два сигнала TDM с равным периодом скачков частот, как изменятся значения скорости передачи элементарных сигналов и символов? Как изменится кратность разнесения?
г) В канале имеется 80 сигналов TDM. Как изменятся значения скорости передачи элементарных сигналов и символов, а также кратность разнесения?
12.14. Некогерентная двоичная система FSK со скачкообразной перестройкой частоты характеризуется отношением E*/iVo = 30flB; ширина полосы равна 2 ГГц. Канальное кодирование не используется. Станция преднамеренных помех, работающая в том же широкополосном диапазоне, характеризуется полученным Л - 10CWo.
а) Найдите вероятность битовой ошибки Рв.
б) Станция преднамеренных помех использует лишь часть диапазона. Использование какой полосы позволит создавать помехи наиболее эффективно?
в) Найдите значение Рв для наиболее эффективного создания помех в определенной части диапазона.
г) Найдите значение Рв при отсутствии помех.
12.15. Некогерентная система связи с использованием скачкообразной перестройки частоты и модуляции 8-FSK совершает 1200 частотных скачков в секунду, ширина рабочей полосы системы
1 МГц. В течение одной секунды производится передача 3000 символов. Канальное кодирование не используется. Мощность сигнала на входе приемника составляет 10~12 Вт. Умышленные помехи создаются в части диапазона (50 кГц) передачи сигнала (станция помех использует часть своей рабочей полосы). Мощность полученных помех составляет КГ11 Вт. Температура системы равна 290 К Найдите вероятность битовой ошибки.
12.16. Когерентная система DS/BPSK передает данные со скоростью 10 Кбит/с при наличии широкополосных умышленных помех. Канальное кодирование не используется. Потери мощности, связанные с распространением сигнала, равны для системы и станции умышленных помех.
1? Q Рр'ЧЮмр i R1*?
а) Эффективная изотропно-иалучаемая мощность (EIRP) передатчика и станции умышленных помех равна, соответственно, 20 и 60 кВт. Вычислите ширину полосы расширенного спектра, необходимую для достижения вероятности битовой ошибки Рв= КГ5.
б) Станция умышленных помех работает в импульсном режиме. Найдите рабочий цикл, при котором помехи будут наносить максимальный ущерб. Найдите значение Рв для такого рабочего цикла.
12.17. Станция связи передает сигнал со скоростью скачкообразной перестройки частоты
10 ООО скачков/с, чтобы избежать создания ретрансляционных помех.
а) Допустим, спутник, на который производится передача сигнала, находится на геосинхронной орбите (приблизительно 36 ООО км) непосредственно над передатчиком. Кривизной поверхности Земли пренебрегаем. Вычислите радиус защищенности, в пределах которого передатчик ни при каких условиях не может подвергаться опасности создания ретрансляционных помех (станция умышленных помех находится на земле).
б) Станции умышленных помех необходимо 10 мкс для детектирования частоты сигнала и настройки выходного канала генератора помех. Вычислите радиус защищенности, считая, что данная информация доступна передатчику.
12.18. Генератор ретрансляционных помех расположен на борту самолета (рис. 312.1). Для связи используется система FH/SS. Найдите минимальную скорость изменения частоты, при которой ретрансляционные помехи не будут ухудшать качество связи. Найдите необходимую минимальную скорость изменения частоты для случая, когда передатчик расположен на борту самолета, а генератор помех — на Земле.
| Радиостанция Рис. 312.1 |
12.19. Методы расширенного спектра могут применяться для выполнения требований государственных стандартов относительно плотности (мощности) потока излучения на поверхности Земли. Спутник связи, находящийся на высоте 36 ООО км над уровнем моря, передает данные со скоростью 4 Кбит/с. Эффективная изотропно-иалучаемая мощность равна 100 Вт. Найдите ширину полосы расширения, необходимую для того, чтобы плотность потока излучения на поверхности Земли не превышала -151 дБВт/м2 для любой полосы шириной 4 кГц.
12.20. Для предотвращения негативного влияния умышленных помех на сигнал передатчик использует некогерентную модуляцию BFSK, а также скачкообразную перестройку частоты. Мощность сигнала на входе приемника равна 10 мкВт. При отсутствии умышленных помех отношение мощности сигнала к шуму очень велико. Мощность умышленных помех на входе приемника равна 1 Вт.
а) Станция умышленных помех генерирует гауссов шум, равный мощности во всем диапазоне изменения частоты (для данной полосы помехи можно считать белым шумом). Определите, во сколько раз должен быть увеличен диапазон полосы, чтобы позволить передатчику достичь вероятности битовой ошибки I0'4.
б) Генератор помех снижает (относительно полной мощности) мощность шумов в половине диапазона на а (0 < а < 1). Одновременно мощность шумов в другой части диапазона повышается на а (суммарная энергия шумов не изменяется). Передатчик не изменяет параметры перестройки частоты. Найдите выражение для вероятности битовой ошибки.
в) Определите оптимальное значение а для следующих случаев: эффективное отношение мощности сигнала к шуму велико; отношение мощности сигнала к шуму незначительно.
12.21. Применение методов расширенного спектра позволяет получить значительное преимущество при наличии преднамеренных помех. Объясните, почему использование расширенного спектра не дает преимуществ при шуме AWGN.
12.22. Мобильное радиоустройство расширения спектра методом прямой последовательности является частью сотовой системы CDMA. Характеристики системы: данные и коды SS модулируются BPSK; скорость передачи данных равна 8000 бит/с; частота несущей 1 ГГц; скорость передачи элементарных сигналов составляет 25 миллионов сигналов в секунду; максимальные потери сигнала при распространении 138,6 дБ; коэффициент усиления передающей антенны равен 5 дБ; добротность приемника G/T =-18 дБ/K; случайные потери, связанные с мелкомасштабным замиранием, составляют 30 дБ; прочие потери — 4 дБ; необходимое значение отношения EJNo = 4 дБ. Коэффициенты GA, Gv, Н0 и у равны, соответственно, 2,5; 2,5; 1,6; 1. Подсказка: описание параметров канала связи дано в главе 5.
а) Найдите значение мощности передатчика Р, в процессе мелкомасштабного замирания сигнала.
б) Насколько может быть снижено значение Р, при отсутствии мелкомасштабного замирания сигнала?
в) Найдите минимальное значение Ech/No, соответствующее указанным параметрам.
г) Найдите коэффициент расширения спектра сигнала.
д) Найдите максимальное количество пользователей в ячейке.
12.23. В системе связи расширения спектра методом прямой последовательности при использовании модуляции BPSK (данных и кодов) необходимо поддерживать скорость передачи данных 9600 бит/с. Отношение (PJNo) полученного сигнала до детектирования равно 48 дБГц. Коэффициент усиления при расширении спектра равен 1000. Для исправления ошибок используется код БХЧ (63, 51). Определите, способна ли система с такими параметрами поддерживать уровень вероятности битовой ошибки 10~\ Используйте уравнение (6.46) для вычисления вероятности ошибки в декодированном бите.
12.24. а) Каждому пользователю сотовой системы телефонной связи CDMA с использованием
метода прямой последовательности необходимо, чтобы отношение £у/0 было равно 6 дБ для приемлемого качества передачи голоса. Скорость передачи элементарных сигналов равна 3,68 миллионов сигналов в секунду; скорость передачи данных — 14,4 Кбит/с. Коэффициенты Gv, Но и у равны, соответственно, 2,5; 1,5; 1,5. Во время речевых пауз передача сигнала не производится. Найдите максимальное количество пользователей в ячейке.
б) Отношение £*//о было снижено на 1 дБ за счет использования эффективного кода коррекции ошибок. Найдите максимальное количество пользователей в ячейке.
12.25. Система связи расширенного спектра с использованием метода прямой последовательности использует для передачи данных модуляцию QPSK. Необходимо, чтобы значение вероятности битовой ошибки было равно I0-5, а отношение EcJIa не превышало -30,4 дБ. Считая синхронизацию идеальной, найдите минимально необходимое количество элементарных сигналов в 1 бите.
12.26. Система связи расширенного спектра с использованием метода прямой последовательности использует для передачи данных модуляцию QPSK. Коэффициент расширения спектра сигнала равен 20 дБ. Используется код исправления ошибок со степенью кодирования 1/2. Необходимое значение вероятности битовой ошибки равно 10-5. Считая синхронизацию идеальной, найдите минимальные значения EcJl0 и EJla, достаточные для удовлетворения указанного требования.
12.27. а) Система расширенного спектра с быстрой перестройкой частоты (FFH/SS) для пере
дачи данных использует модуляцию 8-FSK и код коррекции ошибок со степенью кодирования 1/2. Коэффициент повторной передачи элементарных сигналов N - 4. Другими словами, каждый символ пересылается четыре раза во время разных частотных скачков. Необходимое значение £у/0 равно 13 дБ. Элементарные сигналы передаются со скоростью 32 ООО сигналов в секунду; ширина полосы частотных скачков — 1,2 МГц. Найдите скорость передачи данных R, коэффициент расширения спектра сигнала С,„ а также отношения (РДо), EaJla, EJIa и EJU.
б) Соответствуют ли ширина полосы и коэффициент расширения спектра сигнала системы требованиям Part-15 для полосы частот ISM?
12.28. Сотовая система телефонной связи CDMA соответствует стандарту IS-95 с некоторыми модификациями: скорость передачи элементарных сигналов расширенного спектра равна 10,24 сигналов/с; скорость передачи данных — 20 Кбит/с; для обратной связи используется 256-ричный код Уолша. Данные, закодированные кодом со степенью кодирования 1/2, модулируются сигналом Уолша, для чего отношение Efjlo должно быть равно 6 дБ. Найдите значения следующих параметров: РДо, EJla, EJla, E„ch//o и Есъ/Io. Найдите также значения Rc, Rw и Индексы с, w, wch и ch обозначают, соответственно, канальный бит, сигнал Уолша, элементарный сигнал Уолша и элементарный сигнал расширенного спектра. Найдите коэффициент расширения спектра сигнала. Определите, сколько элементарных сигналов расширенного спектра соответствуют одному элементарному сигналу Уолша.
Вопросы
12.1. Импульсно-кодовая модуляция (РСМ) и частотная модуляция (FM) позволяют расширить спектр сигнала данных. Почему сигналы РСМ и FM не считают сигналами расширенного спектра (см. раздел 12.1)?
12.2. Назовите четыре основных преимущества систем связи расширенного спектра (см. раздел 12.1.1).
12.3. Укажите три критерия, в соответствии с которыми псевдослучайный сигнал будет казаться случайным (см. раздел 12.2.1).
12.4. Дайте определение элементарного сигнала для систем, использующих метод прямой последовательности, а также для систем со скачкообразной перестройкой частоты (см. разделы 12.3.2 и 12.4.4).
12.5. Что подразумевается под устойчивым сигналом (см. раздел 12.4.2)?
12.6. Объясните разницу между быстрой и медленной скачкообразной перестройкой частоты (см. раздел 12.4.4).
12.1. В чем отличие коэффициента расширения спектра сигнала для системы, использующей метод прямой последовательности, и системы со скачкообразной перестройкой частоты (см. разделы 12.3.2 и 12.4.6)?
12.2. Объясните, каким образом система расширенного спектра расшифровывает сигналы, “скрытые” в шумах (см. раздел 12.5).
12.3. Системы, соответствующие стандарту IS-95, используют коды Уолша для совершенно разных задач при передаче в прямом и обратном каналах. Объясните использование кодов Уолша в обоих случаях (см. разделы 12.8.4.1 и 12.8.4.2).
ГЛАВА 13
Кодирование источника
Фредрик Дж. Харрис (Fredric J. Harris)
Университет Сан-Диего Сан-Диего, Калифорния
| Символы сообщений |
| От других источников |
13.1. Источники
Кодирование источника связано с задачей создания эффективного описания исходной информации. Эффективное описание допускает снижение требований к памяти или полосе частот, связанных с хранением или передачей дискретных реализаций исходных данных. Для дискретных источников способность к созданию описаний данных со сниженной скоростью передачи зависит от информационного содержимого и статистической корреляции исходных символов. Для аналоговых источников способность к созданию описаний данных со сниженной скоростью передачи (согласно принятому критерию точности) зависит от распределения амплитуд и временной корреляции сигнала источника. Целью кодирования источника является получение описания исходной информации с хорошей точностью при данной номинальной скорости передачи битов или допуск низкой скорости передачи битов, чтобы получить описание источника с заданной точностью. Чтобы понять, где эффективны методы и средства кодирования источника, важно иметь общие меры исходных параметров. По этой причине в данном разделе изучаются простые модели дискретных и аналоговых источников, а затем дается описание того, как кодирование источника может быть применено к этим моделям.
13.1.1. Дискретные источники
Дискретные источники генерируют (или выдают) последовательность символов Х(к), выбранную из исходного алфавита в дискретные промежутки времени кТ, где к= 1,
2,... — счетные индексы. Если алфавит содержит конечное число символов, скажем N, говорят, что источник является конечным дискретным (finite discrete source). Примером такого источника является выход 12-битового цифро-аналогового преобразователя (один из 4096 дискретных уровней) или выход 10-битового аналого-цифрового преобразователя (один из 1024 двоичных 10-кортежей) Еще одним примером дискретного источника может послужить последовательность 8-битовых ASCII-символов, введенных с клавиатуры компьютера.
Конечный дискретный источник определяется последовательностью символов (иногда называемых алфавитом) и вероятностью, присвоенной этим символам (или буквам). Будем предполагать, что источник кратковременно стационарный, т.е. присвоенные вероятности являются фиксированными в течение периода наблюдения. Пример, в котором алфавит фиксирован, а присвоенные вероятности изменяются, — это последовательность символов, генерируемая клавиатурой, когда кто-то печатает английский текст, за которым следует печать испанского и наконец французского текстов.
Если известно, что вероятность каждого символа Xj есть P(XS), можно определить самоинформацию (self-information) I(Xj) для каждого символа алфавита.
I(Xj) = -\og2(Pj)
Средней самоинформацией для символов алфавита, называемой также энтропией источника (source entropy), является величина
(13.2)
где Е{Х} — математическое ожидание X. Энтропия источника определяется как среднее количество информации на выход источника. Энтропия источника — это средний объем неопределенности, которая может быть разрешена с использованием алфавита. Таким образом, это среднее количество информации, которое должно быть отправлено через канал связи для разрешения этой неопределенности. Можно показать, что это количество информации в битах на символ ограничено снизу нулем, если не существует неопределенности, и сверху log2(A0, если неопределенность максимальна.
О < Н(Х) < log2(A0 (13.3)
Пример 13.1. Энтропия двоичного источника
Рассмотрим двоичный источник, который генерирует независимые символы 0 и 1 с вероятностями р и (1 -р). Этот источник описан в разделе 7.4.2, а его функция энтропии представлена на рис. 7.5. Если р = 0,1 и (1 — р) = 0,9, энтропия источника равна следующему:
Н(Х) = -[р \og2(p) + (1 -р) log2(l -р)] = (13.4)
= 0,47 бит/символ.
Таким образом, этот источник может быть описан (при использовании соответствующего кодирования) с помощью менее половины бита на символ, а не одного бита на символ, как в текущей форме.
Отметим, что первая причина, по которой кодирование источника работает, — это то, что информационное содержание ^-символьного алфавита, используемое в действительных системах связи, обычно меньше верхнего предела соотношения (13.3). Известно, что, как отмечено в примере 7.1, символы английского текста не являются равновероятными. Например, высокая вероятность конкретных букв в тексте используется как часть стратегии игры Хенгмана (Hangman). (В этой игре игрок должен угадывать буквы, но не их позиции в скрытом слове известной длины. За неверные предположения назначаются штрафы, а буквы всего слова должны быть определены до того, как произойдет шесть неверных предположений.)
Дискретный источник называется источником без памяти (memoryless), если символы, генерируемые источником, являются статистически независимыми. В частности, это означает, что их совместная вероятность двух символов является просто произведением вероятностей соответствующих символов.
P{XrXk) = P(Xj\Xk)P(Xk) = P(Xj)P(Xk) (13.5)
Следствием статистической независимости есть то, что информация, требуемая для передачи последовательности М символов (называемой Л/-кортежем) данного алфавита, точно в М раз превышает среднюю информацию, необходимую для передачи отдельного символа. Это объясняется тем, что вероятность статистически независимого Л/-кортежа задается следующим образом:
м
р(Х,,а:2,...,а:м) = Р]>(Хп). (Ш>)
п ~ I
Поэтому средняя на символ энтропия статистически независимого М-кортежа равна
Нм(Х) = -±-Е{-1оё2 Р(ХхХ2,...,Хм)} = м
= -^X[-/>(Xm)l0g2 />(*„,)] = • (13Л)
Хт
= Н(Х)
Говорят, что дискретный источник имеет память, если элементы источника, образующие последовательность, не являются независимыми. Зависимость символов означает, что для последовательности М символов неопределенность относительно М-го символа уменьшается, если известны предыдущие (М - 1) символов. Например, большая ли неопределенность существует для следующего символа последовательности CALIFORNI_? М-кортеж с зависимыми символами содержит меньше информации или разрешает меньше неопределенности, чем кортеж с независимыми символами. Энтропией источника с памятью является следующий предел:
H(X)= lim НМ(Х). (13.8)
М —> «хэ
Видим, что энтропия Л/-кортежа из источника с памятью всегда меньше, чем энтропия источника с тем же алфавитом и вероятностью символов, но без памяти.
HdM)
с памятью
< Нм(М) в
ез памяти
(13.9)
Например, известно, что при данном символе (или букве) “q” в английском тексте следующим символом, вероятно, будет “и”. Следовательно, в контексте системы связи, если сказать, что буква “и” следует за буквой “q”, то это дает незначительную дополнительную информацию о значении слова, которое было передано. Можно привести и другой пример. Наиболее вероятным символом, следующим за буквами “th”, может быть один из таких символов: а, е, i, о, и, г и пробел. Таким образом, дополнение следующим символом данного множества разрешает некоторую неопределенность, но не очень сильно. Формальная формулировка сказанного выше: средняя энтропия на символ М-кортежа из источника с памятью убывает при увеличении длины М. Следствие: более эффективным является групповое кодирование символов из источника с памятью, а не кодирование их по одному. При кодировании источника размер последовательности символов, рассматриваемой как группа, ограничивается сложностью кодера, ограничениями памяти и допустимой задержкой времени.
Чтобы помочь понять цели, преследуемые при кодировании источников с памятью, построим простые модели этих источников. Одна из таких моделей называется Марковским источником первого порядка (first-order Markov source) [1]. Эта модель устанавливает соответствие между множеством состояний (или символов в контексте теории информации) и условными вероятностями перехода к каждому последующему состоянию. В модели первого порядка переходные врроятности зависят только от настоящего состояния. Иными словами, P(X,+ i|X„ X,.t,...) = P(X,+ i\X,). Память модели не распространяется дальше настоящего состояния. В контексте двоичной последовательности это выражение описывает вероятность следующего бита при данном значении текущего бита.
ЛОЛ
ЩХ) = Р(0)Н(Х\0) + Р(1)Н(Х\1), (13.10)
где
Я(Х|0) = -[Р(0|0) log2 Р(0|0) + Р(1|0) log2 Р(1|0)]
и
Я(Х|1) = -[Р(0|1) log2 Р(0|1) + P(l|l) log2 P(l|l)].
Априорная вероятность каждого состояния находится с помощью формулы полной вероятности.
Р(0) = Р(0\0)Р(Р) + Р(0| 1)Р(1)
Р(1) = Я(1|0)Р(0) + Р(1|1)Р(1)
Р(0) + Р(1) = 1
Вычисляя априорные вероятности с использованием переходных вероятностей, получим следующее:
Р(0) = 0,9 и Р(1) = 0,1.
При вычислении энтропии источника с использованием равенства (13.10) получим следующее: Н(Х) = [ПО) Н(Х\0) + Р(1) Я(Х|1)] =
=(0,9)(0,286) + (0,1)(0,993) = 0,357 бит/символ.
Сравнивая этот результат с результатом примера 13.1, видим, что источник с памятью имеет энтропию ниже, чем источник без памяти, даже несмотря на то что априорные вероятности символов те же.
Пример 13.3. Коды расширения
Алфавит двоичного Марковского источника (пример 13.2) состоит из 0 и 1, появляющихся с вероятностями 0,9 и 0,1, соответственно. Последовательные символы не являются независимыми, и для использования преимуществ этой зависимости можно определить новое множество кодовых символов — двоичные 2-кортежи (коды расширения).
Двоичные 2-кортежи Символ расширения Вероятность символа расширения
0 а Р(а) = />(0|0)Р(0) = (0,95)(0,9) = 0,855
11 b _ Р(Ь) = /*(1|1)Р(1) = (0,55)(0,1) = 0,055
1 с Р(с) = Р(0|1)Р(1) = (0,45)(0,1) = 0,045 10 d P(d) = Р(1|0)Р(0) = (0,05)(0,9) = 0,045
Здесь крайняя правая цифра 2-кортежа является самой ранней. Энтропия для этого алфавита кодов расширения находится посредством обобщения равенства (13.10).
Я(Х2) = Р(а) Н(Х2\а) + Р(Ь) Н(Х2\Ь) + Р(с) Я(Х2|с) + P(d) H(X2\d)
Я(Х2) = 0,825 бит/выходной символ
Я(Х2) = 0,412 бит/входной символ,
где X* — расширение к-го порядка источника X. Более длинный код расширения, использующий преимущества зависимости соседствующих символов, имеет следующий вид.
Двоичный 3-кортеж Символ расширения Вероятность символа расширения
|
| Используя снова обобщение уравнения (13.10), энтропию для этого кода расширения можно найти как |
Н(Х3) = 1,223 бит/выходной символ Я(Х3) = 0,408 бит/входной символ.
Отметим, что энтропия односимвольного, двухсимвольного и трехсимвольного описаний источника (0,470, 0,412 и 0,408 бит, соответственно) асимптотически убывает к энтропии источника, равной 0,357 бит/входной символ. Напомним, что энтропия источника — это нижний предел в битах на входной символ для этого алфавита (память бесконечна), и этот предел не может быть достигнут с помощью кодирования конечной длины.
13.1.2. Источники сигналов
Источник сигнала — это случайный процесс некоторой случайной переменной. Считается, что эта случайная переменная — время, так что рассматриваемый сигнал — это изменяющийся во времени сигнал. Важными примерами изменяющихся во времени сигналов являются выходы датчиков, используемых для контроля процессов и описывающих такие физические величины, как температура, давление, скорость и сила ветра. Значительный интерес представляют такие примеры, как речь и музыка. Сигнал может также быть функцией одной или более пространственных величин (т.е. расположение на плоскости с координатами х и у). Важными примерами пространственных сигналов являются единичные зрительные образы, такие как фотография, или движущиеся зрительные образы, такие как последовательные кадры художественного фильма (24 кадра/с). Пространственные сигналы часто преобразуются в изменяющиеся во времени сигналы посредством сканирования. Например, это делается для систем факсимильной связи и передач в формате JPEG, а также для стандартных телевизионных передач.
Дата добавления: 2015-10-28; просмотров: 69 | Нарушение авторских прав
| <== предыдущая страница | | | следующая страница ==> |
| Основы теории принятая статистических решений 1051 68 страница | | | Основы теории принятая статистических решений 1051 70 страница |