Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
494
dN= (vn — u)2 = d (d/A)N~1 •
(9,7.22)
Отсюда следует, что 1/2 In (A/dN) = N/2 ln (A/d). Это равно пропускной способности канала, умноженной на N, и, таким образом, ~dN_____
минимально возможное искажение для этих источника и канала, как следует из теоремы кодирования для источника. Если дисперсия источника отлична от величины, ограничивающей энергию на входе канала, то можно просто изменить масштаб перед первой передачей и восстановить масштаб на последней оценке, так что отношение дисперсии источника к конечному искажению останется равным тому же самому оптимальному значению. Приведенный выше результат принадлежит Элайсу (1961).
Указанный выше метод использования обратной связи для передачи гауссовской случайной величины с минимальным среднеквадра-
тичным искажением тесно связан с методом передачи цифровых данных по гауссовскому каналу с обратной связью, открытым Шелквийком и Кайлатом (1966). Для того чтобы вывести этот результат, установим сначала, что для каждого п, 1 ^ п ^ N, величины vn и гп в (9.7.21) статистически независимы. Чтобы увидеть это, напомним, что zn и уп независимы. Теперь, если применить индукцию и принять, что z7l_1 и vn_x независимы, то из (9.7.19) следует, что хп и ип_г независимы. Так как гп является линейной комбинацией хп и wn, то гп и независимы. Следовательно, из (9.7.20) находим, что гп и vn независимы, если г„_2 и vn_x независимы. Для завершения доказательства остается заметить, что, очевидно, гг и vx независимы. Исходя из этого результата, всю передачу от и до Vn можно представить с помощью рис. 9.7.2, рассматривая zN (d!AYN~l)l2 как шум. Эквивалентно этому, передачу можно представить, как изображено на рис. 9.7.4.
Так как эквивалентный шум w eq на рис. 9.7.4 является гауссовым и он не зависит от и, то рис. 9.7.4 можно использовать для изображения схемы передачи при использовании (9.7.19) независимо от того, является и гауссовской случайной величиной или нет*}. Теперь предположим, что требуется передать одно сообщение из множества М сообщений. Эти сообщения можно закодировать в множество чисел от —Y А к У А следующим образом:
*) Студент, которого беспокоит абстрактный характер этого рассуждения, может выразить гп через случайные величины wn —действительные шумы в канале, z„ = хп d/A — wn(A — d)/A. С использованием этого выражения и (9.7.19) для каждого значения п величина гп может быть выражена как линейная комбинация и и шп, 1 < п < N. Сочетая это с (9.7.21), можно непосредственно проверить модель, изображенную на рис. 9.7.4.
у A(d/A)N
Рис. 9.7.4. Модель для передачи с обратной связью гауссовской случайной величины.
495
Тогда декодирование можно осуществить, отображая принятое число rN == vN /[1 — (d/A)N\ в ближайшую точку ит сообщения. Если шум меньше чем У А 1(М — 1), то ошибки не произойдет. Следова-
w
eg
тельно, для каждого сообщения т
у А
(М — 1) \ w
eq
Ф (х) =
У‘2~1
-I2/2
dt.
Взяв М = eNR, где R — скорость в натах на символ канала, и вспоминая, что пропускная способность канала в натах равна С =
V2 In (A/d), получаем отсюда
Р <2Ф
1 е,тп ^
NC—NR ,
-2 NC
¦ NR
(9.7.24)
При R < С выражение, стоящее в круглых скобках, ограничено снизу 1, и, используя границу (8.2.38) для Ф (—х), находим
V'
-N (С-Я)
ехр
(С-Я)
(9.7.25)
Если сообщения равновероятны, то расстояние между сообщениями может быть увеличено до 2 У ЪА/У М2 — 1 без нарушения ограничения на мощность при первой передаче. При этом получающаяся вероятность ошибки ограничена выражением
2 — N (С— R)
— е ехр
Зл
3e2N (C-R)
Значение и необычность этого результата заключаются в том, что Р е, m убывает по двойной экспоненте с ростом Л?, а не по обычной экспоненте, подобно всем остальным нашим результатам о вероятности ошибки.
Источники, порождающие гауссовские случайные процессы
Распространим теперь результаты для гауссовских дискретных по времени источников на источник, выход которого является стационарным гауссовским случайным процессом с нулевым средним и корреляционной функцией (т). Рассмотрим выход источника на интервале (—772, 772) и представим его с помощью разложения Карунена— Лоева
где ортонормальные на интервале —772 гс; / гс; 772 функции 0г (0 являются решениями уравнения 77 2
j (9.7.27)
- Г/2
Как было показано в гл. 8, иг — статистически независимые гауссовские случайные величины с нулевыми средними и дисперсиями