Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
1 —0 i—1 ( 1+РI )
и/Ы)+/г+Ев(р,)
Wo (и) <
Полагая В = R и суммируя по i, имеем
W.
ед/(1+Р,) ,
ехр {vlR—vl
** 1_е-Д/(1+р/) /-0 1 е
1 +рг
(4)
'наклонравен I ^лену в квадрат-1 'ных скобка*. (У) для \ 'указанного произвольногоа
' р (оптимально ь выбранное)
Р (произвольно 1 выбранное)
Рисунок, приведенный выше, дает графическое представление о поведении члена, заключенного в квадратные скобки. Из рисунка видно, что при отрицательных и оптимальное значение рг убывает с возрастанием I. В то же время, если выбрать рг равным рг, где рrR — Е0(рг), то можно убедиться, что выражение в фигурных скобках (4) становится равным — ы/( 1 + рг). При больших отрицательных значениях и при некотором I оптимальное значение р1 будет близким
к рг; это доказывает, что приведенная выше граница W0(u) должна быть по край-658
ней мере пропорциональна ехр [—и/(1 + рг)] при больших отрицательных значениях и. Это объясняет выбор значений
где р' — произвольное число, такое, что 0 < р' < рг- Выберем 1(и) (вообще говоря, нецелое) как значение /, при котором выражение в фигурных скобках (4) принимает одинаковые значения при р; = рг и при pt = р', т. е.
Подставляя это выражение в (4) и суммируя отдельно по / < 1(и) и по I > 1(и), получаем
6.45. Так как г* < 0, то соотношение (6Б.29) справедливо при г — 0. Взяв производные от обеих частей (6Б.29) по г, получим
Полагая г = 0 и используя тот факт, что g(0) = 1, g'(0) = г(., получаем
Из определения /0, п (и, v) нетрудно видеть, что первый член приведенного выше выражения есть математическое ожидание времени блуждания до первого пересечения барьера, так что 0= SN— Nzt¦ Если 2m,„ является минимальным значением (т. е. максимальное по модулю значение отрицательной величины), принимаемым г, то в момент, когда при блуждании в первый раз будет пересечен барьер, Sn не может принять значения, лежащего ниже барьера на расстоянии, большем чем zmin, и и > Sn > и + zmin. Подставляя это в (1), получаем и +
Zmin < N Zi < и.
6.46. Пусть хх и х2 — произвольные кодовые последовательности некоторой заданной длины. Пусть zx равно Хх ф х2 во всех позициях последовательности с номерами 2ig + /, где 0 < / < g — 1, a i — произвольное целое число, и пусть равно 0 во всех остальных позициях. Пусть z2 равно xt ф х3 во всех позициях с номерами (2 i + l)g + /, где 0 < / < g — 1, at — произвольное целое, и пусть z2 равно нулю во всех остальных позициях. Тогда и z2 представляют собой пакет длины, не большей g с требуемым защитным интервалом,’но
Р, = РГ; /</(«), Р, = Р'; 1>Ци)
? , ч_________~ УГГ Г }________
v [—p'/?+?o(p')I (1 + Рг)
— и (Рг —р')
еМ' + Рг)
+ 1-е-д/<
еД/(1 +
0= 2 2 Л). п(к. v)[v—nZi\.
п=1
Z1 ® Z2 —Х1 © Х2>
Zl©Xi=Z2©X2.
7.1. (а)
659
(б)
? Ру I х (У I О
I(X-,Y)=Px( 1) f ру ¦ х (у |1) log ..-1.........dy +
_i Ру \У)
1 Ру ix (У I-*) 1
+ рх(-*) J Ру | х (У I —*) lQg----------------аУ=— бит.
(в) Канал, определенный P(y\z), является ДСтК и / (X; Z) = — бит.
Это показывает, что отображение у в г не разрушает информацию относительно х. Это естественно, так как для каждого |у|<1, значения ±1 принимаются х с равными вероятностями.
7.2. (а) Из симметрии ясно, что пропускная способность достигается на равновероятных входах. Следовательно,
7 Г р (г/11) 1,
С = Г р (у II) In --------------------------\dy нат =
Jco Lv^(!/| l)+1/2P(y\-l) J
OO
= ln2—1 — —-— f (c-v/a + e-“/b) ln(e-^/a + e-^6) dy. a + b J о
В пределе при bta -> 1 имеем С = 0, а в пределе при Ыа —» 0 имеем С = = In 2 нат. Более точное разложение показывает, что
(а—Ь)2 6
^-----------для — xl.
4 а2 а
(б) Для частного случая р = 1 функция Е0 (р) может быть непосредственно вычислена. Результат (оптимизированный равновероятными входами) имеет вид
?0(1)=—1п
Г 1 (а—Ь\ 21
2 U+fc ) ]'
Ъ (а— Ь)2
Для — ^ 1, Е0(1) ~ —g^a—• Заметим, что это равно половине С. Это следовало
ожидать, так как при равновероятных входах рассматриваемый канал удовлетворяет условиям, справедливым для канала с очень большим шумом.