Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
Как отмечено выше, v(t) не вполне определена, так как содержит белый гауссов шум, однако в соответствии с определением белого гауссового шума коэффициенты vt = x^Xi + «г четко определены и случайные величины tii — независимые нормированные гауссовские случайные величины. Остаточный член nr(t) в (8.5.19) представляет собой компоненту шума, ортогональную ко всем функциям 0г(О- Точнее, J nr(t)Qi(t)dt = 0 для всех i. Точно так же для любой функции г|з(0 с единичной энергией, ортогональной к 0,(0 при всех i, величина J nr(t) ty{f)dt является нормированной гауссовской случайной величиной, не зависимой от всех xt и я;. Если образовать множество ортонормальных функций (%(0), каждая из которых ортонормирована с функциями множества {0ДОЬ то канал может быть представлен как бесконечное множество параллельных каналов, соединенных последовательно с фильтром g(t, т) (рис. 8.5.6). В последующем изложении 428
ОО
ОО
K2{t,x)dt, для всех т, (8.5.15)
-Г/2
— ОО
*(т)=2*гФг(т) + *Лт)>
(8.5.17)
(8.5.18)
i
v (t) = 2 k Y К + ni\ ег M+nr (*)•
(8.5.19)
будет показано, что коэффициенты vlt v2, ... могут быть определены по выходу канала y(t).
Теперь предположим, что функция v(t) известна приемнику (т. е. известны последовательность {vt] и последовательность {w})). Для любой вероятностной меры, заданной на х(х), средняя взаимная информация между х(х) и v(t) равна, очевидно, средней взаимной информации между последовательностью {х^ и последовательностью {и;} (так как последовательность {wt} на рис. 8.5.6 не зависит от пары {х}} и Аналогично для любого множества кодовых слов деко-
дирование по максимуму правдоподобия и декодирование по максимуму апостериорной вероятности зависит только от последователь-
Рис. 8.5.6. Эквивалентное представление Рис. 8.5.7. Окончательное представле-рис. 8.5.1. ние рис. 8.5.1.
ности j Vi). Следовательно, только последовательность {и;} является существенной в сигнале v(t). Покажем теперь, что последовательность \vt} может быть определена по окончательному выходу канала y(t). Так как y(t) определяется по v(t), то отсюда следует, что дополнительные шумы {Wj} можно не рассматривать (это и так почти очевидно) и канал можно представить в виде, изображенном на рис. 8.5.7. На рис. 8.5.7 аддитивный шум помещен слева от умножителя, для того чтобы сделать окончательное представление эквивалентным модели параллельного канала из § 7.5. Шум в t-м канале является теперь гауссовской случайной величиной с нулевым средним и дисперсией 1 /Xt.
Лемма 8. 5. 1. Определенная выше последовательность случайных величин {иг} может быть однозначно найдена по выходу канала y(t).
Доказательство. Если шум белый, то y(t) = yrN0/2v(t) и доказательство тривиально. Для небелого шума величины vt определяются через выходные собственные функции фильтра Ko(t, х) с помощью равенства
Из (8.5.11) следует, что выход фильтра К$, т) при любом входе является линейной комбинацией входных собственных функций фг, ^ (О
423
: j
(8.5.20)
фильтра g(t, т). Следовательно, для каждого i функция et(t) является линейной комбинацией функций множества (ф/,в (t)} и может быть представлена в виде
0,(/)= 2 auqh g(ty, at) = [Qi(f)<fJtg(t)dt. (8.5.21)
/= i
(Следует отметить, что в общем случае это разложение не может быть получено для выходных собственных функций фильтра K(t, т) и фактически это вызвало введение фильтра Ko(t, т).) Подставляя (8.5.21) в (8.5.20), изменяя порядок суммирования и интегрирования для произвольного числа т слагаемых, получаем
т оо
Vi= 2 oSjAti (t)<fj'g(t)dt+ \v(t) 2 «и У 3,g(t)dt. (8.5.22)
/= 1 i=m+ 1
В терминах выходных собственных функций ®j,g(t) фильтра g(t, х) имеем
J У V)Qj, g(f)dt = \r (t) g (t)dt + ^z(0 0,, g(t) dt. (8.5.23)
Однако
J r (t) Qj, g (t) dt = ^ u0 (t) g (t, t) Qjtg (t) dx dt =-
= Vh, g \uo(t)q>j,g(t)dx. (8.5.24)
Из (8.4.42) имеем
^ z (t) 0^ g (t) dt — Zjt g = YXjig ^ ti (т) Ф/,^ (i>) dx. (8.5.25)
Сочетая (8.5.24) и (8.5.25), имеем
\ У (0 fy, g (0 dt =V g ^ (т) ф;-, g (t) dx. (8.5.26)
Подставляя это выражение в (8.5.22), получаем
v‘ = 2 f у w®dt+ fy w 2 a» «wdL (8-5-27)
/=1 Vbj.g J J jJ^+l
Покажем теперь, что остаточный член в (8.5.27) стремится к нулю при т -у оо. Имеем
00 л 00
С v {t) 2 <*и Фа 8 (0 dt = § «о (0 2 Щ] ф;, в (0 dt+