Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
Р(у\х) = - ехр[—(у—х)21(2а2)],
У 2яа
а ограничение имеет вид =гоМ. Тогда для любой длины блока N и любой скорости 0 ^ R < С = 1/2 In (1 + Л) существует код
с М = р eNR | кодовыми словами, каждое из которых удовлетворяет
ограничению (7.4.19) и границе вероятности ошибки
Ре,т<
2е5в
2e-NEr<,R)t (7.4.57)
где ЕТ (R) задается соотношениями (7.4.33) и (7.4.36), a 2ese/|i. задается приближенно (7.4.40). Кроме того, если R', задаваемое (7.4.54)
и (7.4.56), удовлетворяет (7.4.53), то также для всех кодовых слов
\
pem<exp{-^ [l — У"! — е- 2Л']|. (7.4.58)
Хотя это непосредственно не очевидно из выражения для Ет (R), однако из § 7.3 следует, что max [?г (R), EeX(R)] является выпуклой ^ невозрастающей положительной функцией для О^Я In (1 +^4).
7.5. ПАРАЛЛЕЛЬНЫЕ КАНАЛЫ С АДДИТИВНЫМ ГАУССОВЫМ ШУМОМ
В следующей главе канал с непрерывным временем и аддитивным гауссовым шумом будет сведен к множеству параллельных дискретных по времени каналов с аддитивным гауссовым шумом. Следующая теорема позволяет найти пропускную способность такого параллельного соединения каналов.
Теорема 7.5.1. Рассмотрим множество из N параллельных дискретных по времени каналов с аддитивными гауссовыми шумами и дис-
361
персиями шумов о], о&. Пусть входы каналов удовлетворяют огра-
ничению
N __
2 (7.5.1)
П= 1
Тогда пропускная способность достигается на входах, представляющих собой статистически независимые гауссовские случайные ве-
"Г
ь
¦б1г
У
62
ёг2
Рис. 7.5.1. Интерпретация, связанная с «наполнением водой» для параллельных дискретных по времени каналов с аддитивным гауссовым шумом.
личины с нулевыми средними и дисперсиями
= (7.5.2)
где &п удовлетворяют соотношениям
On + <§п~~=В Для а*п<^В, '(7.5.3)
<§п = 0 для а,2г>В (7.5.4)
и где В выбрано так, что 2<^п = <Е. Пропускная способность парал-
лельного соединения каналов равна
N
С — У. 1/ in(l + -%) нат = (7.5.5)
л= i ' °п '
= 2 V2 In (B/al) нат. (7.5.6)
п: а* < В
Обсуждение. Графическая интерпретация распределения для входных энергий, используемых в различных каналах, приведена на рис. 7.5.1. Можно представить себе общую энергию Ш как объем воды, которая помещается в резервуар с неровной формой дна, определяемой дисперсиями шума. Уровень, до которого поднимается вода, равен В, а &п определяет глубину воды в различных частях резервуара.
Доказательство. Пусть XN = (Х1Х2... XN) и YN = (УхУг... Yn) — совместные входные и выходные ансамбли. Так же как и (7.2.19), доказывается, что
/(X"; Y")< S ПХп,Уп)
П= 1
362
с равенством, когда входы независимы. Пусть ёп — среднеквадратическое значение ti-го входа для любого заданного совместного ансамбля. Тогда, используя теорему 7.4.2, имеем
с равенством, когда входы — гауссовские случайные величины с нулевым средним. Правая часть (7.5.7) — выпуклая ^ функция вектора (&1, йлО- Теперь осталось провести максимизацию этой функции в выпуклой области, где Щп ^ 0, 1 < ti < N и Sg’n < ’S. Очевидно, максимум имеет место, когда 2gn/<» = 1 и, следовательно, рассматриваемая задача тождественна максимизации выпуклой функции вектора вероятностей. Из теоремы 4.4.1 вытекает, что необходимые и достаточные условия максимума будут
с равенством, когда &п> 0, и а, выбранным так, что удовлетворяется равенство = S. Дифференцируя, выводим
Выбирая В = 1/(2а), получаем (7.5.3) и (7.5.4). То что получается максимум, задаваемый (7.5.5) и (7.5.6), следует из соотношений (7.5.7),
(7.5.4) и (7.5.5). |
Далее распространим границу случайного кодирования и границу для процедуры с выбрасыванием на параллельные каналы с аддитивным гауссовым шумом. Для простоты обозначения примем, что длина блока равна 1. Результаты могут быть применены к произвольной длине блока N', если рассмотреть множество параллельных каналов с N' повторениями каждого из первоначальных каналов.
Для N параллельных каналов с дисперсиями шумов of, ..., о% соответственно совместная переходная плотность вероятности множества каналов равна
Примем, что каждое кодовое слово \т должно удовлетворять соотношению