При равномерной дискретизации шаг Δt и частота отсчетов являются постоянными величинами. На рис. 2.2 изображена функциональная схема дискретизации.
ИИ – источник информации,
ГТИ – генератор тактовых импульсов,
П – прерыватель,
Д – дискретизатор
Рис. 2.2
По теореме
В.А. Котельникова функция с ограниченным
спектром полностью определяется
дискретным множеством своих значений
(отсчетов), взятых с частотой F=2fm,
где fm
– максимальная частота в спектре
S(
)
сигнала х(t) (рис. 2.3). В этом
случае функция х(t)
восстанавливается без погрешностей
с помощью интерполяционного ряда
,
где интервал
.
Рис. 2.3
Реальные сигналы имеют конечную длительность. Спектр таких сигналов не ограничен, поэтому применение теоремы Котельникова приводит к погрешностям восстановления и проблемам в выборе шага квантования. Но когда речь идет о приближенном восстановлении с заданной точностью, то теорему можно применять и для сигналов с неограниченным спектром (рис. 2.4).
На практике частоту
отсчетов определяют по формуле Fo=K32fmax,
где К3
‑ коэффициент запаса, fmax
–
условно-максимальная частота с учетом
доли энергии в спектре, ограниченном
частотой fmax
(
max).
Рис. 2.4
Квантование сигнала х(t) по уровню состоит в преобразовании непрерывных значений х(ti) в моменты отсчета ti в дискретные хk (рис. 2.5).
В результате непрерывное множество значений х(ti) в диапазоне от хmin до хmax превращается в дискретное множество хk уровней квантования, где k=1,. . . m.
При равномерном квантовании шаг квантования δ=(хmax- хmin)/m.
Если истинное значение отсчета в некоторый момент времени лежит внутри интервала δк, то его значение заменяется значением k-го уровня.
Оптимальным в смысле точности воспроизведения квантованного сигнала будет расположение уровня квантования в середине шага квантования.
Значения сигнала х(ti) могут быть отнесены к тому или иному уровню квантования следующим образом:
сигнал х(ti) отождествляется с ближним уровнем квантования;
сигнал х(ti) отождествляется с ближним меньшим (большим) уровнем квантования.
Устройство для квантования сигналов – квантизатор (рис. 2.6, а) представляет собой нелинейный элемент с амплитудной характеристикой, представленной на рис. 2.6, б ‑ при отождествлении сигнала с ближним меньшим уровнем квантования или, приведенной на рис. 2.6, в ‑ в случае отождествления сигнала с ближайшим уровнем.
При квантовании возникает обязательная ошибка, которая не может быть устранена, т.е. квантованный сигнал хк(ti) есть сумма истинного сигнала х(ti) и ошибки Δхк (помехи), т.е. хк(ti) = х(ti) + Δхк. Помеха Δхк называется шумом квантования.
На рис. 2.6 (г, д)
отображены ошибки квантования
для обоих способов квантования.
Рис. 2.5
а) |
б) |
в) |
Рис. 2.6
Для k-го
уровня квантования (k=0…,m-1)
математическое ожидание ошибки
и
её дисперсия
могут быть найдены из соотношений
,
,
где
‑ плотность распределения величины
.
Если интервал
мал
по сравнению с диапазоном изменения
сигнала, а плотность
постоянна и равна
,
то
,
и тогда
;
.
Дисперсия полной
погрешности квантования
в диапазоне от xmin
до xmax
по всем уровням квантования будет
.
Для равномерного
шага
,
и если
,
то
и среднеквадратическая погрешность
квантования сигнала по уровню для
равномерного распределения
.
Общие понятия и определения
Под кодированием понимается представление информации в виде, удобном для передачи по каналу связи.
Операция восстановления сообщения по принятому сигналу называется декодированием.
Общая схема передачи информации представлена на рис. 3.1.
Рис. 3.1
Техническая реализация процесса кодирования в простейшем виде при непрерывном входном сигнале осуществляется аналого-кодовыми преобразователями.
Шеннон в своих работах обосновал эффективность введения в тракт кодирующих и декодирующих устройств, цель которых состоит в согласовании свойств источника сообщений со свойствами канала связи.
Цель кодера источника (КИ) обеспечить такое кодирование, при котором путем устранения избыточности существенно снизится среднее число символов на букву сообщения. При отсутствии помех это дает выигрыш во времени передачи. Такое кодирование получило название эффективного или оптимального.
При наличии помех в канале оно позволяет преобразовать входную информацию в последовательность символов, наилучшим образом подготовленную для дальнейшего преобразования.
Второе кодирующее устройство (кодер КК) обеспечивает заданную достоверность при передаче информации путем внесения избыточности с учетом интенсивности и статистических закономерностей помехи в канале связи. Такое кодирование называют помехоустойчивым.
Выбор кодирующих и декодирующих устройств зависит от статистических свойств источника сообщений, уровня и характера помех в канале связи.
Если избыточность источника мала и помехи в канале связи отсутствуют, то введение кодера источника и кодера канала нецелесообразно.
После кодера канала
(КК) кодированный сигнал поступает в
устройство кодирования символов
сигналами – модулятор М. Сигнал
на выходе модулятора подготовлен к
передаче по конкретной линии связи
(ЛС).
В линии связи на сигнал накладываются помехи из условно-показанного источника помех (ИП), так что в устройство декодирования сигналов в символы (ДМ) из канала связи поступает сигнал, искаженный шумами. Устройство декодирования помехоустойчивого кода – декодер канала (ДК) и устройства декодирования сообщений – декодер источника (ДИ) выдают декодированное сообщение и получателю (П) – человеку или машине.
Большинство кодов, используемых при кодировании информации без учета статистических свойств источника и помех, основано на системах счисления.
Любому дискретному сообщению или букве сообщения ставится в соответствие какой-то порядковый номер. Передача или хранение информации сводится к передаче или хранению чисел. Числа можно выразить в какой-либо системе счисления.
Логические элементы вычислительных устройств с основанием h>2 должны иметь более двух устойчивых состояний, что технически трудно выполнимо при условии обеспечения надежной фиксации этих состояний.
Наиболее удобна с точки зрения физической реализации двоичная система. Логические элементы имеют всего два устойчивых состояния. Задача различения состояний сводится к задаче обнаружения ( есть импульс или нет импульса). Число в двоичной системе выразится
,
где ai принимает значение либо 0, либо 1.
Буквы сообщений преобразуются в последовательности двоичных символов. До данного момента это преобразование выполнялось без учета статистических характеристик сообщений. Шеннон доказал, что сообщения, составленные из букв некоторого алфавита, можно закодировать так, что среднее число двоичных символов на букву будет сколь угодно близко к энтропии источника этих сообщений.
Код Шеннона-Фано строится следующим образом:
1) буквы алфавита вписываются в таблицу в порядке убывания вероятностей;
2) разделяются на две группы, чтобы суммы вероятностей в каждой были одинаковы;
3) у всех букв верхней половины первым символом пишется 1, у всех букв нижней – 0;
4) процесс повторяется до тех пор, пока в каждой подгруппе останется по одной букве.
В качестве примера рассмотрим алфавит из 8 букв (табл. 1).
Вычислим энтропию:
.
Среднее число символов на букву
.
При обычном кодировании без учета статистических связей требуется три разряда.
Если равенства вероятностей при определении границы нет, то однозначность в построении кода нарушается.
Методика Хаффмена ликвидирует эту неопределенность.
Таблица 1
Буквы |
Вероятность |
Кодовые комбинации |
Ступень разбиения |
|||||||
Z1 |
1/2 |
1 |
|
|||||||
Z2 |
1/4 |
0 |
1 |
I |
||||||
Z3 |
1/8 |
0 |
0 |
1 |
II |
|||||
Z4 |
1/16 |
0 |
0 |
0 |
1 |
III |
||||
Z5 |
1/32 |
0 |
0 |
0 |
0 |
1 |
IV |
|||
Z6 |
1/64 |
0 |
0 |
0 |
0 |
0 |
1 |
V |
||
Z7 |
1/128 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
VI |
|
Z8 |
1/128 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
VII |
|