Документ: ОТС Лекции 1 и 2 часть, страницы 116-120

энтропии процесса z(t) минус условная энтропия, т.е. потери информации в канале связи:

I(U;Z)= H(Z) - H(Z/U) ;

(6.1)

Источники информации могут производить не только дискретные сообщения, например, буквы или цифры. Существует множество источников, которые производят непрерывные сообщения: звуковые сообщения (речь, музыка), видеосообщения (изображения неподвижных и перемещающихся предметов), различные датчики давления, температуры и т.п. Любой непрерывный процесс описывается, в частности, своей ФПВ, т.е. функцией плотности вероятности W(z). Информационные характеристики непрерывных процессов отличаются от информационных характеристик дискретных процессов. Действительно, двоичный сигнал может принимать только 2 значения и может переносить максимум 1 дв.ед. информации. Любой непрерывный сигнал может принимать бесконечно большое количество разных, сколь угодно близких друг к другу значений. Следовательно, он может переносить бесконечно большое количество информации. Т.о. абсолютное значение энтропии непрерывного сигнала бесконечно велико. Поэтому разные непрерывные процессы можно описывать только их относительной информационной содержательностью.

Относительная информационная содержательность непрерывного процесса z определяется его дифференциальной энтропией h(z):

∞
h(z) = - ∫ W(z) log W(z) dz	(6.2)

-∞

Относительная условная информационная содержательность непрерывного процесса u при наличии процесса z на входе приемника характеризуется условной дифференциальной энтропией h (U/Z) .

Взаимная информация является по определению относительной информацией и потому без изменений распространяется на непрерывные случайные процессы. Так как условная дифференциальная энтропия также характеризует

потери информации в канале связи из-за влияния помех, то	условная энтропия
равна энтропии помехи h(Z/U)=h(U/Z)=h(Х). Следовательно:
I(U;Z)=h(U) - h(U/Z)= h(Z) - h(Z/U) = h(Z) - h(Х);	(6.3)

Введенные информационные характеристики дискретных и непрерывных процессов позволяют определить способы увеличения эффективности систем связи.

Рассчитаем дифференциальную энтропию равномерного распределения:

A; a ≤ x ≤ b;		(6.4)
W(x) =		(6.4)
0;	a > x; b < x;

Так как А=1/(b-a) из условия нормировки ФПВ, то :

b

h = -∫AlogAdx = log(b -a);

a

41

Аналогично, дифференциальная энтропия нормального распределения равна:

∞				2													2
∞	1			-		x									1			-	x
h=-∫	1			-			2								1			-		2
				e 2у				log										e 2у			dx=

		2ру2												2ру2
-∞		2ру2												2ру2
										2																2
			∞	1								-	x								∞		x2				-	x
													x															x
															2													2
=log	2ру2 ∫										e 2у					dx+loge∫											e 2у		dx=	(6.5)

					2ру				2													2		2ру	2
			-∞		2ру																-∞ 2у			2ру

=log2ру2 +0.5loge=log2рeу2;

Доказано, что дифференциальная энтропия нормального случайного процесса больше, чем энтропия любого другого случайного процесса с иной плотностью вероятности, если дисперсия процесса σ2 = const.

Следовательно, чтобы сигнал с ограниченной мощностью переносил

максимальное количество информации он должен быть нормальным шумом.

Производительность источника Н' – это количество информации производимой источником в единицу времени:

(6.6) Н – энтропия источника; Т – длительность сообщения.

Из-за влияния помехи количество переданной по КС информации уменьшается

на величину, равную количеству мешающей информации, вносимой помехой. Скорость передачи информации - количество взаимной информации

передаваемое по каналу связи в единицу времени.

I' = limT→∞	I(z;u)	;	(6.7)
	T

Пропускная способность канала связи С - максимально возможная скорость

передачи информации (верхняя грань):
С=max I ' ;		(6.8)
Максимум ищется по всем возможным	распределениям	W(u), по всем
возможным способам передачи и приёма	при заданных	ограничениях на
сигнал и помеху.

Элементарная формулировка теоремы Шеннона.

По каналу связи с полосой пропускания F , в котором действует сигнал с мощностью Рс и нормальный белый шум со спектральной плотностью энергии G0, можно предавать информацию со скоростью сколь угодно близкой к пропускной способности канала связи:

C = Flog(1 +	Pc	)	(6.9)
	G0F

При этом вероятность ошибки может быть сделана сколь угодно малой. Доказательство.

Количество взаимной информации содержащейся в процессе z(t) о сигнале u(t) равно из (6.3):

I(Z;U)=h(Z)-h(X);

42

Дисперсия белого шума x(t) в полосе F: σ 2 = G0F. Т.к. шум нормальный, то его дифференциальная энтропия равна:

h(X)=0.5 log(2πeσ 2)

Чтобы энтропия процесса z была максимальной, этот процесс должен быть нормальным случайным процессом, т.е. сигнал тоже должен быть нормальным случайным процессом с дисперсией Рс . Тогда максимальное количество взаимной информации равно :

I(Z;U)=0.5 log[2πe(Pc + σ 2)] - 0.5 log(2πeσ 2)= =0.5 log(1 + Pc / σ 2) ;

Т.к процесс на выходе канала связи финитный по спектру, то он полностью определяется по теореме Котельникова своими отсчетами взятыми через

интервал	времени T=1/2F.	Таким образом в единицу	времени следует
передавать 2F отсчетов.
Каждый	отсчёт процесса z(t)	несет информацию о сигнале		I(z;u). Таким
образом	за 1с максимальное	количество, переданной по	КС	информации,
равно:

С=2F*I (Z;U)=Flog(1+Pc/G0F)

Для того, чтобы вероятность ошибки была сколь угодно малой ( рош→0), необходимо использовать бесконечно длинные кодовые комбинации, т.е время задержки принятия решения бесконечно велико.

Из формулы для пропускной способности следует, что при F→ ∞ величина C стремится к пределу равному С∞=Рс log e/G0 (рис.6.1.).

C

Pcloge/G0

0F Рис.6.1.

7.МНОГОКАНАЛЬНЫЕ СИСТЕМЫ СВЯЗИ (МСС).

ВМСС осуществляется обмен информацией между многими источниками и многими получателями информации. Для того, чтобы обмен информацией

осуществлялся без взаимных помех, сигналы разных каналов uj (t) и uk (t) должны быть ортогональны:

Т
∫uj (t) uk (t) dt = 0;	(7.1)
0

Способ разделения сигналов определяет тип МСС.

43

МСС с частотным разделением каналов (ЧРК).

При ЧРК информация отдельных каналов передается одновременно, но в разных полосах частот. Структурная схема МСС с ЧРК показана на рис.7.1.

ИИ1 М1 ПФ1

		Гр
		У1
	Г1	У1
	Г1

ПФ ДМ ПИ

линия связи Гр

У2

ИИn

Мn

ПФn

ДМn

ПИn

Гn

ПЕРЕДАТЧИК

ПРИЕМНИК

Рис.7.1.

ИИ - источник информации; М – модулятор;

Г1, …Гn – генератор несущей

частоты ω1…ωn ;

ПФ – полосовой фильтр;

Гр У1 – групповой усилитель

передатчика; Гр У2 - групповой усилитель приемника ;

ПИ – получатель

информации; ДМ – демодулятор (детектор);

Важной характеристикой МСС с

ЧРК является групповой спектр,

т.е.

спектр многоканального сигнала (рис.7.2) .

U 1-й канал 2-й канал 3-й канал

n-й канал

ПФ1

ПФ2

ПФ3

ПФn

ω1

ω2

ω3

ωn

ω

Рис.7.2.

Информация каждого канала передается на своей несущей. Разделение каналов осуществляется с помощью полосовых фильтров ПФ1-ПФn . На рис. 7.2 условно показаны спектры модулированных сигналов для случая, когда используется однополосная амплитудная модуляция. Передается не весь спектр АМ, а только остаток несущей, который называется пилот-сигналом и верхняя боковая полоса частот. На приёмной стороне полосовые фильтры имеют АЧХ, показанные условно пунктиром на рис.7.2: каждый ПФ пропускает только сигнал своего канала и теоретически не пропускает сигналы соседних по частоте каналов.

Однако, на практике возникают взаимные помехи между каналами.

44

Причины взаимных помех при ЧРК: 1)спектры сигналов бесконечны; 2)АЧХ полосовых фильтров не идеальны.

Способы уменьшения взаимных помех 1)улучшать характеристики полосовых фильтров;

2)вводить защитные промежутки по частоте между каналами (при этом увеличивается полоса частот, занимаемая системой связи); 3)уменьшать скорость работы по каждому каналу, что приводит к уменьшению ширины спектра канального сигнала.

МСС с временным разделением каналов (ВРК).

При ВРК сигналы отдельных каналов передаются в одной полосе частот, но в

разные	интервалы времени.	Структурная схема МСС с ВРК показана на
рис.7.3:	ИИ – источники	информации;	Кпрд , Кпрм – коммутатор
(переключатель) на передаче и на приеме;			Имод- импульсный модулятор;

ГТИ – генератор тактовых импульсов; ГрУ, ПФ – групповой усилитель и полосовой фильтр; ДМ – демодулятор; ПИ – получатель информации.

Импульсный модулятор модулирует по амплитуде, или по частоте, или по фазе, или по ширине последовательность тактовых импульсов, поступающих от ГТИ.

Кпрд

1

ИИ1

n

ИИn

ИМод		Гр Ус
ИМод		ПФ

ГТИ

линия связи

ДМ1

ПИ1

Кпрм

Гр У

ПФ ДМn ПИn

Рис.7.3.

Таким образом, переносчиком информации является периодическая последовательность импульсов, поступающих от ГТИ. При ВРК информация каждого канала передается с помощью импульсов-отсчетов в соответствии с теоремой Котельникова. В зависимости от того, какой параметр импульсной

45

Материал: ОТС Лекции 1 и 2 часть

Смотрите также: