Материал: 5856

6

лико. Поэтому за всеми математическими выражениями не мешало бы прежде всего разглядеть соответствующую идею. Недаром же большинство лучших современных методов обработки сигналов первоначально было предложено практиками на основе инженерной интуиции, и лишь потом математики строго обосновали их оптимальность.

Нет сомнения, что знание основ теории и техники передачи информации существенно облегчит освоение последующих специальных курсов. Формы разные, но суть одна – передача информации!

7

1 МАТЕМАТИЧЕСКИЕ МОДЕЛИ СИГНАЛОВ И ПОМЕХ

1.1 Информация и сигналы

Невозможно дать строгое и полное описание любого из природных объектов или явлений. Поэтому любое грамотное исследование всегда начинается с построения его математической модели. Это – упрощенное количественное описание объекта или явления, пригодное для решения конкретной задачи. Ясно, что различным задачам могут удовлетворять совершенно разные модели одного и того же явления.

В связи с этим сомнительно, что кто-то может дать строгое и удовлетворяющее всех определение понятия “информация”. Принято считать, что

информация – это сведения, знания, новости, идеи и т.п. независимо от формы их представления.

Считают также, что информация – не материя, т.е. наличие её невозможно обнаружить с помощью органов чувств или приборов.

Ещё полагают, что информация – не энергия, поскольку она, в отличие от энергии, не может проявлять себя, превратившись в работу.

Чтобы не создалось впечатление, что весь курс будет посвящен изучению способов передачи чего-либо бестелесного, дадим ещё одно определе-

ние. Сигнал – это материальный переносчик информации, и информация, в

нем содержащаяся, трансформируется в изменение некоторых свойств этого материального объекта. Поэтому вполне естественно, что изучение закономерностей передачи информации мы, из соображений наглядности, зачастую будем заменять изучением свойств сигналов в процессе их передачи от источника к получателю.

Итак, ясно, что передача информации невозможна без передачи сигналов. Обратное утверждение справедливо далеко не всегда. Если сведения, содержащиеся в сигнале, уже достоверно известны получателю, такой сигнал не несёт информации. С другой стороны, для менее информированного получателя тот же сигнал может содержать информацию.

Следовательно, информация – адресное понятие. Всегда можно указать два конечных объекта в цепи преобразований сигнала. Это – источник информации и получатель. Источник информации – это объект, текущее состояние которого X интересует получателя. Передаваемое сообщение X, трансформируясь в процессе передачи из пункта, где расположен источник, в пункт, где расположен получатель, превращается в итоге в принимаемый сигнал Y. Получатель, наблюдая конкретную реализацию y, пытается определить, каково конкретное значение сообщения x.

Отсюда видно, что у получателя всегда должна быть хотя бы некоторая неопределенность относительно текущего состояния источника X. Если такая неопределенность отсутствует (источник гарантированно должен быть в

8

единственном состоянии xо, и получателю это уже известно), тратить ресурсы на прием сигнала y нет смысла (следовательно, и изучать в этой ситуации нечего).

Удобный математический аппарат для описания объектов, ожидаемое состояние которых является неопределенным, дает теория вероятностей. Поэтому при рассмотрении СПИ все сигналы в цепи, связывающей источник X с получателем Y, рассматривают как взаимозависимые случайные объекты.

Напомним важнейшие понятия теории вероятностей. Опыт — это совокупность действий, выполняемых по заранее оговоренным либо общепринятым правилам, например, подбрасывание монеты; извлечение карты из колоды; наблюдение погоды в конкретный день и час; измерение напряжения в конкретной точке устройства и т.д. Событие А называется случайным со-

бытием, если при проведении опыта оно может произойти, а может не произойти, причем исход заранее неизвестен. Примеры: выпадение герба при подбрасывании монеты; извлечение из колоды бубновой десятки; снегопад в полдень 20 января 2010 года; величина напряжения меньше 2 В.

Вероятность p( A) события А — это число, характеризующее степень возможности появления этого события. Событие называется неслучайным (детерминированным), если (это невозможное событие) либо

(это достоверное событие). Для случайного события Для некоторых событий вероятность их появления можно точно ука-

зать сразу на основе теоретических предпосылок. Например, вероятность выпадения герба равна 0,5. Для многих других событий остается лишь экспериментальный способ оценки вероятности, т.е. p(A J ) m / n , где n — общее ко-

личество проведенных опытов; m — количество опытов, в которых появилось событие А. Очевидно, что точность оценки возрастает при увеличении количества опытов n.

Как правило, бывают известны последствия, которые повлечет за собой появление (и непоявление) события А, поэтому естественно желание заранее, до проведения опыта принять решение относительно того, как наилучшим образом подготовиться к преодолению этих последствий. Проблема в том, что способы подготовки к обоим исходам могут быть диаметрально противоположными, исключающими друг друга. Например, если p(A) 0,98 , то мы, скорее всего, примем решение готовиться к тому, что событие А появится.

Конечно, мы можем ошибиться в своих прогнозах. Тем не менее, правильность избранной стратегии подтверждает следующее соображение. Если будем следовать ей при проведении большого количества опытов, то начинает работать закон больших чисел и проявляются некоторые закономерности. В нашем примере при проведении n = 10000 опытов событие А появится примерно m = 9800 раз и не появится всего в 200 опытах.

10

При этом сумма чисел-вероятностей во второй строке равна единице. Примеры: 1) Х – русская буква, m=33, её возможные значения (алфа-

вит): а,б,…,я. Есть экспериментальные данные о вероятностях появления каждой из букв [10].

2)Х – десятичная цифра, m=10, алфавит: 0,1,2,…,9. Если не учитывать нашу любовь к круглым числам, можно считать, что все цифры алфавита имеют одинаковую вероятность по 0,1.

3)Х – двоичная цифра (бит = bit = binary digit), алфавит: 0,1.

Конечно, формально можно представить символ, для которого m=1, но принимать такой сигнал нет смысла (см. разд. 1.1). Поэтому бит – это сигнал простейшего вида, и благодаря этому свойству двоичные сигналы нашли широчайшее применение в различных устройствах передачи, хранения и преобразования сигналов.

Для букв алфавита можно использовать любые (разумеется, различные) названия и обозначения – от этого сущность сигнала не изменится. Если бук-

вам алфавита приписать числовые значения, то символ Х превращается в дискретную случайную величину. Для СПИ это – типичная ситуация, по-

скольку различные состояния символа передаются путем задания конкретных значений частоты, фазы, амплитуды и иных количественных параметров сигнала.

Практически любую числовую характеристику дискретной случайной величины Х можно определить как математическое ожидание (М) некоторой известной функции y x

j 1

В частности, вычисление по формуле (1.2) дает: математическое ожидание mx , если x x ; дисперсию Dx , если x x mx 2 ; пятый начальный момент, если x x5 ; число m, если x 1 p x , и т.д.

Любое из чисел, определяемых по формуле (1.2), не дает полного описания свойств символа Х в отличие от ряда распределения (1.1), но их использование порой имеет смысл благодаря компактности представления (число, а не таблица).

При передаче каждому из возможных значений символа приписывается определенный смысл в соответствии с заранее оговоренной таблицей кодирования, т.е. эта таблица известна получателю. Например, при m=2 сообщение о возможном приезде конкретного лица может иметь следующий вид: 1 – приедет, 0 – не приедет. Если использовать восьмеричный символ, то можно передать более детальное (информативное) сообщение, составив таблицу,