Материал: Системы передачи информации. конспект лекций. Авдеев Ю.В., Полуказаков А.В

Повышение помехоустойчивости передачи и приема

Эта задача достигается путем:

1) увеличения мощности сигнала;

2) применения помехоустойчивого кодирования, которое связано с введением избыточных символов в код, что позволяет обнаруживать и исправлять ошибки, но увеличивает время передачи, либо расширяет спектр передаваемого сигнала;

3) применения помехоустойчивых видов модуляции, что приводит либо к увеличению времени передачи, либо к увеличению ширины передаваемого спектра сигнала;

4) применения помехоустойчивых методов приема, что в конечном итоге увеличивает время передачи;

5) применения каналов с обратной связью, причем по каналу обратной связи может передаваться либо весь объем принимаемой информации, либо информация о сомнительных символах, которые требуется повторить. В последнем случае используется решающее устройство.

Системы первого типа называют системами с информационной обратной связью, системы второго типа - с решающей обратной связью или системами с переспросом. В данном случае усложняется оборудование (два канала вместо одного) и увеличивается время передачи.

Лекция №7 Восприятие и обработка информации Задачи распознавания, обнаружения и измерения

Восприятием называется процесс целенаправленного извлечения и анализа информации о каком-либо объекте или процессе.

Простейшим видом восприятия является различение двух противоположных состояний «да» и «нет».

Более сложным видом восприятия является измерение, т.е. определение значений некоторых наблюдаемых величин.

Еще более сложными являются процессы распознавания, предсказания или прогнозирования.

В различных способах восприятия есть много общих сторон: например, единство методов обнаружения, измерения и рас познавания, когда процедура сводится к установлению некоторых эталонов, получению, внешней информации и сравнению этой информации с эталоном на основании некоторого критерия.

Обнаружение и распознавание

Процесс распознания состоит в классификации явлений по имеющейся информации и отнесении воспринимаемой совокупности или вектора признаков к области, характеризующей одно из состояний источника информации. С этой целью пространство признаков Х разбивается по какому-либо критерию на областей (рис.7.1) соответствующих точкам пространства состояний . Если разбиение производится на две области, то распознавание сводится к обнаружению некоторого явления.

Рис. 7.1

Вектор в пространстве признаков называют вектором реализации, а области разбиения образуют множество классов.

В сферу задач теории обнаружения и распознания входит:

1. определение границ областей ;

2. нахождение оптимальных алгоритмов классификации.

В общем случае зависимость реализации от состояния источника носит вероятностный характер.

Три характерных случая представлены на рис. 7.2 (для простоты использованы одномерные распределения).

Рис. 7.2

В случае (рис. 7.2, а) возможно безошибочное распознание. Для этого области в пространстве признаков должны быть выбраны так, чтобы каждая из них включала все возможные значения только одного соответствующего ей параметра. При этом вероятность правильного распознавания i-го состояния при условии по формуле Байеса будет

.

Так как все условные распределения в области тождественно равны нулю. В случае рис. 7.2, б распознавание по вектору реализации невозможно, так как при любом разбиении все можно заменить на , что дает .

Это означает, что отнесение вектора к какой-либо области не увеличивает вероятности распознавания, которая будет равна априорной .

Естественно случай (рис. 7.2, б) является промежуточным и распознавание возможно с вероятностью , которая будет в пределах .

Характеристики качества распознавания

Основными характеристиками распознавания являются ошибки распознавания и средние потери.

Например, при принимается гипотеза о наличии состояния . Вероятность правильного решения при этом , а вероятность ошибки . Средняя вероятность ошибки для всех возможных реализаций

.

Из этого видно, что зависит от выбора областей , т.е. от разбиения пространства признаков.

Если ошибки распознавания отдельных состояний неравноценны и с ними можно связать определенные потери, то для характеристики качества распознавания могут быть приняты средние потери.

Обозначим через положительное число, определяющее условные потери («штрафы») от ошибки в результате заключения состояния а, в то время как источник информации находится в другом состоянии .

При попадании в область потери составят

,

а средние потери:

,

где ‑ условные риски распознавания,

‑ средний риск распознавания.

Статистические критерии обнаружения

Ошибка может быть уменьшена, если суждение о состоянии выносится не по одному отсчету информационного параметра х, а по серии отсчетов , которую можно рассматривать как вектор-реализацию в пространстве признаков X. Статистическая связь вектора с состояниями определяется условными плотностями распределения .

Пространство признаков разбивается на две области и . Граница областей носит название «решающей поверхности». В процессе обнаружения решающее устройство определяет какой области принадлежит вектор-реализация и делает заключение о состоянии источника. В памяти решающего устройства должны храниться данные о решающей поверхности. Поскольку эта поверхность многомерна, ее задание и хранение встречает значительные трудности.

Однако этот многомерный случай можно привести к одномерному путем перехода к новой переменной, функционально связанной с вектором .

Эта переменная носит название отношения или коэффициента правдоподобия и задается соотношением

,

где ‑ многомерная плотность распределения вероятностей.

Вместо уравнения решающей поверхности достаточно запомнить одно число , с которым сравнивается текущее значение .

Если , то имеем и принимается гипотеза о наличии состояния .

Однако полученные упрощения требуют некоторого изменения процедуры восприятия. Уравнение границы

определяется соотношением

.

Критерий минимального риска Байеса

Для его использования должны быть известны

и условные потери .

Средний риск для задачи обнаружения будет

.

Уравнение решающей поверхности определяется выражением

.

Отношение правдоподобия из уравнения решающей поверхности имеет вид

.

Таким образом, в процессе обнаружения для полученного вектора подсчитывается

,

которая сравнивается с постоянной величиной .

Если , то было состояние , риск распознавания будет минимален.

В одномерном случае, когда вектор есть один отсчет параметра х, решающая поверхность представляет точку пересечения функций и (рис. 7.3).

Рис. 7.3

Критерий идеального наблюдателя (Зигерта-Котельникова)

В этом случае принимают , а значение коэффициента правдоподобия будет

.

Критерий максимального правдоподобия Фишера

При неизвестных априорных вероятностях и полагают , что предполагает .

Минимаксный критерий

Данный критерий более осторожен при неизвестных и , чем критерий Фишера.

Для каждого фиксированного ищется наихудшее распределение:

,

при котором средний риск будет максимален:

.

И для этих распределений определяется через минимизированный риск:

.

Значения и , при которых , опуская их вывод, могут быть определены из уравнений

,

.

Критерий наблюдателя Неймана–Пирсона

Средняя вероятность ошибки ( ), как у Зигерта-Котельникова:

,

где ‑ вероятность ошибки первого рода (вероятность ложной тревоги, риск заказчика),