Материал: 5856

111

больше, чем неопределенность ожидаемого значения другой, эталонной случайной величины Xэ, имеющей равномерное распределение на интервале единичной длины. Чтобы отметить эту особенность, Hд(X) называют дифференциальной энтропией.

Один из наиболее важных результатов теории информации – это фор-

мула для пропускной способности непрерывного канала с шумом.

Предполагается, что:

1) параметры источника информации постоянны во времени, то есть передаваемый сигнал X(t) – это стационарный случайный процесс;

2) линия передачи обладает заданной полосой пропускания f и ее параметры также постоянны, то есть она не вносит никаких искажений в передаваемый сигнал;

3) единственной помехой на входе приемника является аддитивный белый гауссовский шум со спектральной плотностью No.

имеем Pш = No f.

Чтобы не изображать семейство графиков, введем формально нормирующую величину

(4.42)

тогда зависимость пропускной способности от обоих параметров f и Pс можно представить одной кривой (рис. 4.6).

Из приведенной зависимости видно, что:

1) предельное значение скорости передачи информации на единицу мощности полезного сигнала на входе приемника равно Cmax = (log2e)/No ≈ 1,4427/No (бит/Вт·с) и может быть достигнуто лишь асимптотически приf , то есть предельная энергетическая эффективность СПИ, равная 1,4427/No (бит/Дж) достигается при ее весьма низкой частотной эффективности; но тогда и Pс/Pш 0, поэтому потребуется применять чрезвычайно мощный (и сложный) корректирующий код;

2) имеет смысл расширять полосу пропускания канала до тех пор, пока Pш No f Pс , так как при дальнейшем увеличении полосы прирост пропуск-

112

ной способности существенно замедляется.

Чтобы обеспечить скорость передачи, равную пропускной способности канала, нужно, чтобы и полезный сигнал на входе линии являлся гауссовским случайным процессом с равномерным спектром плотности мощности в полосе f, то есть был подобен белому шуму. Разработка и техническая реализация аналоговых алгоритмов такого преобразования для большинства реальных сообщений сопряжены с большими трудностями. Значительно проще во многих случаях оказывается использовать цифровые методы передачи аналоговых сигналов.

Заключительные замечания о значении теории информации.

1)Любая теория информации оперирует лишь вероятностными характеристиками сигналов и является математической теорией. Поэтому она универсальна, то есть может быть применена к любым сигналам независимо от их физической формы.

2)Основные результаты теории информации имеют вид неравенств, то есть, она определяет предельные, потенциальные характеристики СПИ, не всегда указывая пути для их достижения. Наглядное сравнение: если нас интересует, каков объем сосуда сложной формы, то, определив его максималь-

ный линейный размер d, мы уже знаем, что этот объем никак не может быть больше πd3/6 (для тех, кто не знает, каким замечательным свойством обладает объем шара диаметра d, пути достижения этого предельного значения остаются весьма туманными).

3)Статистические теории информации не учитывают ценности конкретного сообщения для его получателя. Попытки исправить это положение не привели к осязаемым результатам, поскольку ценность сообщения – понятие субъективное. Здесь лучше придерживаться девиза цивилизованной обслуживающей организации: если потребитель платит за передачу сообщения, значит, для него это важно.

Итак, теория информации – не средство на все случаи жизни, но примененная “к месту”, она может существенно ускорить и упростить процесс проектирования и анализа СПИ.

Вопросы для самоконтроля по главе 4

1.Что такое собственная информация и энтропия дискретной случайной величины?

2.При каких условиях максимальна энтропия совокупности двух символов и чему она равна?

3.Что такое избыточность дискретного источника?

4.Может ли равномерный код быть оптимальным (безизбыточным)?

5.Дайте определение взаимной информации переданного и принятого символов. Как влияет на ее величину интенсивность помех в канале

113

связи?

6.Что такое избыточность сигнала? В каких случаях она полезна, а когда нет?

7.Когда полезно применять кодирование с малой избыточностью?

8.Какой смысл вкладывают в понятия: “кодирование источника”? “канальное кодирование”?

9.Каково значение минимально-возможной средней длины кодовой

комбинации?

10.Всегда ли удается закодировать сигнал так, чтобы избыточность на выходе кодера была нулевой?

11.Когда полезно кодировать блоки букв, а не отдельные буквы? 12.Какой способ разделения кодовых комбинаций применяется в кодах,

обладающих малой избыточностью?

13.В чем заключается главный недостаток кодов Хафмана и ШеннонаФано?

14.Откуда берется кодовая таблица, используемая при кодировании кодом Лемпела-Зива?

15.От чего зависит пропускная способность непрерывного канала связи с аддитивным белым шумом?

114

5 ДЕМОДУЛЯЦИЯ ЦИФРОВЫХ СИГНАЛОВ

5.1Роль априорной информации

Вцифровой системе передачи информации (СПИ) передаваемый сигнал является последовательностью М-ичных символов, при этом, как правило,

прямоугольной формы, используя один из методов модуляции, описанных в разд. 2.8. В процессе передачи сигнала по линии эти импульсы случайным образом искажаются (обычно это происходит из-за наличия мультипликативной помехи) и появляется аддитивная помеха (разд. 1.5).

Демодулятор к моменту окончания очередного принимаемого импульса должен указать (вернее, угадать), которое из М возможных значений символа было передано с данным импульсом. Очевидно, что иногда демодулятор будет выдавать ошибочные решения, поэтому желательно применять такой способ обработки импульса, который при заданных характеристиках сигна-

лов и помех обеспечивает минимум полной вероятности ошибки Р. Это и есть главный критерий качества приема в цифровой СПИ.

Чтобы следовать этому критерию, для обработки очередного импульса нужно использовать такой алгоритм, который учитывает все сведения об ожидаемом импульсе, которые известны к данному моменту (момент прихода и длительность, несущая частота и начальная фаза, характер искажений огибающей и закон паразитной внутриимпульсной фазовой модуляции и т.п.). Это и есть априорные сведения, и чем их больше, тем меньше будет вероятность ошибок, допускаемых демодулятором, который учитывает эти сведения.

Некоторые параметры ожидаемого импульса известны с высокой точностью. Например, в канале с постоянными параметрами принимаемый сигнал повторяет по форме передаваемый, поэтому известны длительность импульса и его амплитуда. Считается, что известны также текущие значения несущей частоты и частоты повторения импульсов, но здесь многое зависит от стабильности генераторов, задающих эти частоты в передатчике, и генераторов, воспроизводящих эти же колебания в приемнике. Фактически эти генераторы играют роль часов, по которым планируется график формирования (обработки) сигнала в передатчике (приемнике). Чем выше синхронность хода часов приемника по отношению к часам передатчика, тем выше качество приема.

Те устройства приемника, которые обеспечивают условия, при которых частота и даже текущая фаза генератора несущей в приемнике с достаточной точностью совпадают с соответствующими параметрами генератора в пере-

115

датчике, называются системой обеспечения когерентности. Аналогично, система тактовой синхронизации формирует в приемнике тактовые импульсы, которые с достаточной точностью указывают момент времени, когда начинается очередной принимаемый импульс (следовательно, заканчивается предыдущий).

Обеспечить качественную синхронизацию обычно бывает проще, нежели когерентность, поскольку несущая частота, как правило, существенно выше тактовой частоты. В связи с этим принято рассматривать три типа систем по степени их когерентности.

Когерентной называется СПИ, в которой ожидаемые значения начальных фаз всех принимаемых импульсов (вплоть до окончания сеанса связи) известны заранее, и эти сведения используются при демодуляции импульсов. Другими словами, генераторы несущей в передатчике и приемнике должны обладать столь высокой стабильностью, чтобы фазы выдаваемых колебаний не расходились заметно в течение сеанса связи. Когерентная СПИ – это идеал, который используется лишь для сравнения с другими СПИ, реализуемыми практически.

Частично-когерентной называется СПИ, в которой ожидаемые значения начальных фаз всех принимаемых импульсов заранее неизвестны, но в процессе приема они оцениваются, и эти сведения используются при демодуляции импульсов. Другими словами, генератор несущей в приемнике при помощи устройства фазовой автоподстройки частоты (ФАПЧ) постоянно синхронизируется с генератором передатчика. Подстройка осуществляется по самому принимаемому сигналу. И в этом случае генераторы несущей должны обладать некоторой стабильностью частоты, достаточной, например, для того, чтобы в случае разрыва цепи ФАПЧ фазы выдаваемых колебаний не расходились заметно хотя бы в течение нескольких сотен импульсов, что вполне реализуемо. Поэтому именно частично-когерентную СПИ на прак-

тике обычно называют когерентной.

Некогерентной называется СПИ, в которой ожидаемые значения начальных фаз всех принимаемых импульсов неизвестны и не оцениваются в процессе приема (ФАПЧ не применяется). Прием очередного импульса рассматривается как прием сигнала со случайной начальной фазой, равномерно распределенной в интервале 0–2π. Для этого генераторы несущей в передатчике и приемнике должны обладать лишь такой стабильностью, чтобы фазы выдаваемых колебаний не расходились заметно хотя бы в течение одного импульса. Поэтому некогерентная СПИ оказывается проще и дешевле.

Очевидно, что когерентная СПИ, в принципе, может обеспечить меньшую вероятность ошибки, чем частично-когерентная и, в еще большей степени, некогерентная СПИ.

Подобным образом можно классифицировать цифровые СПИ как синхронные и асинхронные. В синхронной СПИ передача каждого символа (им-