Научная литература
booksshare.net -> Добавить материал -> Физика -> Галлагер Р. -> "Теория информации и надежная связь" -> 67

Теория информации и надежная связь - Галлагер Р.

Галлагер Р. Теория информации и надежная связь — М.: Советское радио, 1974. — 738 c.
Скачать (прямая ссылка): teoriyainformacii1974.pdf
Предыдущая << 1 .. 61 62 63 64 65 66 < 67 > 68 69 70 71 72 73 .. 355 >> Следующая

Яд, < — ап + —— aN_n, (4А .6)

lim ам=а. (4А.7)

N-* оо

Доказательство. Предположим, что справедливо (4А.4) и для любого заданного е > 0 выберем п так, чтобы

ап > а—е- (4А.8)

Полагая N = 2л, из (4А.4) получаем, что

а2п > — + — > а — е. (4А.9)

Подобно этому, полагая N = тп для любого целого числа т > 2, имеем

«71

(т~!) V- 1)п

+^(4А.10)

Используя индукцию, предположим, что а(т_\)П > а — е> тогда (4А.10)

означает, что атп > а — е. В силу справедливости предположения индукции при т = 2, 3 получаем

атп > а — е при всех m> 1. (4А.11)

Далее при любом N > л величину iV можно представить в виде тя + /, где

О ^ ^ п •— 1. Подставляя / вместо л в (4А.4), получаем

/ Л'— /

яд- ^ дг ”1" дг атп'—атп~\~(ЦМ) amn) >

> а — е + (л/./У) (a — a). (4A. 12)

Отсюда следует, что для всех достаточно больших N справедливо, что а > ___ N

> а — 2е. Равенство (4А.5) следует из того, что а < а, и того, что е выбрано

произвольным. Равенство (4А.7) получается из (4А.6), если заметить, что (4А.6) означает, что (4А.4) применимо к последовательности — ап и таким образом

lim—ап = sup—ап = —inf ап. j (4А.13)

Доказательство теоремы 4.6.1 начнем с вывода соотношения

log Л

lim Сд, = sup Сд, — ж N V N

Пусть при произвольных положительных целых числах л и / Qn и Q/ являются распределениями на входе, на которых достигаются Сп и С/ соответственно.

Пусть N — п I и выберем в виде

Qn (х) = Qn (xi) 0.1 (х2)> (4А.14)

где х (xlt ...t х^), Xj = ,..., хп) и х2 = (a’h+i, ¦¦¦, х

5 Зак. 210 ]29
Пусть Xj и Х2 являются ансамблями последовательностей хх и х2 и пусть Y1 и Ya будут соответствующими выходными ансамблями. Так как Q (х) не обязательно является входным распределением, на котором достигается пропускная

способность С , то имеем — N

N?n> min /(ХА; YiY, |s0)==min[/(Xi; |So)+/(X>; Y^IX^»)] (4A.15)

sc So

Первое слагаемое в правой части (4А.15) ограничено снизу следующим образом; г

I (Xxi Y^Y^So) ^(Xi> J So) ^ пСп. (4А.16)

Последнее слагаемое в (4А.15) может быть преобразовано следующим образом:

ДХ2; YxY21 Xj, s0)= /(X2; Y1Y2X1|s0)—^(X2; Xj) >/(X2; Y2|so), (4A.17)

где использовано то, что Хх и Х2 статистически независимы [см. (4А.Н)]. Из леммы 1 следует, что /(Х2; Y2|s0) ограничена снизу значением/(Х2; Y2JS’n., s0)—log/4. Наконец,

Z(X2; Y2|Sn>s„) = 2?(sn|s„)/(X2; Y, | sn) >

> min I (X2; Y21 sn) — lCi. sn

(4A.18)

Используя (4A. 16)—(4A. 18) совместно с (4A.15) и замечая, что граница не зависит от s0, получаем

NCN > пСп 4- lCt — log А

N

Г log/4 1 Г _ log Л 1 Г„ log л n
[~N ~ N \ >n Cn~ + I I J
n
(4А.19)

Таким образом, последовательность С —(log ^4)/jV удовлетворяет (4А.4), и по лемме 2 имеем

lim CN= lim

iV -*¦ 00 _ jV -г со

log Л N

: sup N

log A N

(4A.20)

Докажем, что lim С — inf [С + (log Л)/Л/].

N-+vo N N N Пусть N — n -\- l при произвольных положительных целых числах я и I и пусть Q^h s0—входное распределение и начальное состояние, на которых достигается С . Пусть Хх и Х2 — получающиеся в результате ансамбли входных последовательностей хх= (*j.....1'п)их2= (*„-f-i> XN) и пусть YlP Y2 — соот-

ветствующие выходные ансамбли. Тогда

NCn = I(X1 Х2; Yj Y2 I s„) = (4A.21)

= /(Xi; Yi | s„) + I(X2; Yi | Xu s0) H /(XjX,; Y21 Yj, s0). (4A.22)

Распределение вероятностей на этом ансамбле (включающем 5„-состояние в момент я) может быть представлено в виде

Рп(хi) Qi(xa I xj) Pn(yi, sn | xj, s0) Pi(y21 x2s„).

(4A.23)

130
Отсюда можно заметить, что х2 и ух являются статистически независимыми при условии, что заданы х2 и s0. Следовательно, для второго слагаемого в (4А.22) получаем

/(Х2; Yx | Хх, so) = 0. (4А.24)

Что касается первого слагаемого в (4А. 22), то оно удовлетворяет неравенству:

/(Хх; YJ s0 )< пСп. (4А.25)
Предыдущая << 1 .. 61 62 63 64 65 66 < 67 > 68 69 70 71 72 73 .. 355 >> Следующая

Реклама

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed

Есть, чем поделиться? Отправьте
материал
нам
Авторские права © 2009 BooksShare.
Все права защищены.
Rambler's Top100

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed