Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
С„(В)= Пт СТ(В):
Т-+оо
g
I ЯП/) I
I Я, (IV ±
'¦ N(f) В
\HX (fW
L N(f)
N(f)
В
df
df.
(8.5.78)
Переопределив функцию g(x), полагая ее равной 0 для л; ^ 1 /В и равной В— \/х для 1 /В, ту же самую лемму можно применить к (8.5.73). Таким образом,
Л'(/)
Сх (В) = lim ST {В)
р.
'• N(t) ''В
В-
\Hi (/)Г
df. (8.5.79)
Пусть при заданном ограничении на мощность S значение В удовлетворяет равенству 5 = 5^ (В). Пусть е> 0 — произвольно мало. Так как Сх (В) — непрерывная функция,, то существует б > О, такое, что Сх (В + б) Сх (В) + е. Для этого б существует некоторое Tlt такое, что для Т ^ 7\
CT(fi + 6XC00(fi + 6) + e<C00(B) + 2e. (8.5.80)
Вместе с тем, так как Soo (В) строго монотонно возрастает с В (для В > ini N if)/1 H^if) |2), то имеем SJ^B + 6) > SJ^B) и существует T2 такое, что для Т ^ Т2
Sr (5 + 6)>S00(fi) = S.
(8.5.81)
Наконец, для любого Т, — монотонно возрастающая функция мощ-ностного ограничения S, так что, используя (8.5.81) при Т ^ Т2г имеем Ст ^ СТ{В + б). Следовательно, при Т ^ 7\, Т ^ Т2 имеем Ст ^ CJB) + 2е. Обращая неравенства, участвующие в приведен-440
ных выше рассуждениях, имеем также Ст ^ СХ(В) — 2е для всех достаточно больших Т. Так как е произвольно, то отсюда следует, что
lim Ст ==?00 (В),
Т-+ОО
что завершает доказательство. |
Обращение теоремы кодирования применимо здесь, так же как и для дискретных каналов. Точнее, имеет место следующая теорема. Ее доказательство опускается, так как оно, в сущности, повторяет доказательства, приведенные в гл. 4, 6 и 7.
Теорема 8.5.2. Пусть дискретный стационарный источник с алфавитом объема М имеет энтропию Hoo(U) и производит одну букву каждые ts секунд. Пусть последовательность букв источника произвольной длины L связана с адресатом посредством непрерывного по времени канала, используемого Т = Lts секунд. Пусть Ст — умноженная на
1 IT верхняя грань средней взаимной информации между входом и выходом канала на этом интервале, взятая по всем распределениям вероятностей на входе. Предположим, что lim Ст существует и определим
С = limCj-.
Т -*¦ оо
Тогда для любого е > 0 и для всех достаточно больших L вероятность ошибки на символ ( Ре ) в последовательности из L букв источника удовлетворяет неравенству
<Р,> log (М. — 1) + Ж «Ре» > Нао (U)-xjC-e.
Можно применить те же соображения к границе случайного кодирования и границе для процедуры с выбрасыванием теоремы 7.5.2. Определим
Sr(5, р) = — У (1 + Р)*[Д>ч(Г)-1] Д (8.5.82)
т А (1 +р)вх,(Г)-р
Rt (В) ~~ 2 4 (8.5.83)
-L
Ёт(В,р) = -^т{В’р)~± V 4-1п[Н-р---------------------^----------------1. (8-5.84)
25 (1+р) Т ^ 1 L J
Из теоремы 7.5.2 следует, что для любого выбранного р, О <С р ^ 1, и любого В > 0 существует код с М = | ехр [Т RT(B)]^ кодовыми словами, каждое из которых ограничено временным интервалом
441
(—Т/2, Т/2), имеет энергию не более TST(B, р) и вероятность ошибки, ограниченную неравенством
Ре.т<
2е:
s6
ехр [—Т Ет {В, р)].
(8.5.85)
Для фиксированных В и р можно применить лемму 8.5.7 к (8.5.82), (8.5.83) и (8.5.84) точно так же, как в доказательстве теоремы 8.5.1, и получить
(1+Р)* 1В\Н, (/) |2—N (/)] в
Soc (В, р)
800(B)
(l+pJBI^i (/) |2 — pN (/)
df, (8.5.86)
ln
, I Hi (/)P 1
’¦ N (/) ^ ?
?» (В, p)^
P 5oo (5, p)
25 (1 + p)
ln
L^iilLL4 i, b N (t) ** в
IЯ1 (/)! ЛЧ/)
1 + p -
df, (8.5.87)
P N{f) в IH, (/)|2.
df.
(8.5.88)
С помощью того же типа (е, 6)-рассуждений, как и в предыдущей теореме, найдем, что для любого е > 0 существует 7\, такое, что для всех Т ^ Тг существуют коды с М = | ехр [TR^B)] ] кодовыми словами, каждое из которых ограничено ео времени интервалом — (— 772, Т/2), имеет энергию, не большую чем TSм (В, р), и вероятность ошибки, ограниченную неравенством
Ss6 V
2 е
ехр { — Т[Еоо (В, р)—е]}.
(8.5.89)
Как показано в (7.5.39), коэффициент задается приближенным равенством
2 е
sd
ер
(8.5.90)
где
