Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
Так как zn статистически независимы, то математическое ожидание произведения равно произведению математических ожиданий, и, таким образом,
gw(s)= П exp(szj- П gn(s), (5.4.14)
п=1 п— 1
где gn (s) — производящая функция моментов случайной величины zn. Подставляя (5.4.14) в (5.4.11) и (5.4.12), получаем
Pr [w ^ A] ^e~sA П gn(s)> s>0, (5.4.15)
П = 1
Pr [w ^ A] ^.e~sA П gn(s)’ s<0. (5.4.16)
n — 1
Неравенство (5.4.15) можно теперь применить к оценке вероятности ошибки Ре1 для кода с двумя кодовыми словами [см. (5.4.4)].
В этом случае А = 0, zn задается равенством (5.4.3) и вероятност-
ная мера берется при условии, что было передано сообщение 1. Имеем
gn (s) — 2 Р (уп | x1>n) ехр
g JJ-J Р (Уп I х2,п)
Р (Уп | *1,71) .
:'?Р(Уп\х1,пУ~* Р(Уп\х2,пУ> (5.4.17)
Ре,1< П gn(s)-~ П IZPiynlx^y-sPiynl^nY]. (5.4.18)
Л= 1 п= 1 1-Уп
Это в точности совпадает с результатом (5.3.6).
Исследуем теперь вопрос о том, насколько точны границы (5.4.15) и (5.4.16). Грубо говоря, ответ состоит в том, что если N велико, А далеко от w и s минимизирует границу, то подходящим образом выбранная граница (граница (5.4.15), если А > w, и (5.4.16), если А < w)) также дает хорошую оценку для Pr [w ^ А]. Для того чтобы сформулировать это точнее, удобно слегка изменить вид границ (5.4.15) и (5.4.16). По определению, производящей функцией семиинвариантов случайной величины является натуральный логарифм ее производящей функции моментов. Таким образом, производящей функцией семиинвариантов случайной величины w является (s) =
= In gw (s), и аналогичная функция для zn равна |лп (s) = In gn (s).
145
Эти функции связаны с помощью соотношения (5.4.14) следующим образом:
Ms) = ln П gn(s)= 2 М«)- (5.4.19)
п = 1 п = 1
Точно так же из (5.4.13) следует, что s, которое оптимизирует границу, задается с помощью производной от \iw (s) следующим образом:
A = fC(s)= ^ n,'(s). (5.4.20)
п— 1
Подставляя (5.4.19) и (5.4.20) в (5.4.15) и (5.4.16), получаем параметрические границы
Рг
Рг
N
W
п = 1
N
2
п= 1
^ ехр s^Cexp
N
2 М«)~ S[Xn(s)
¦= 1 : N
2 Ms) — s^n(s)
s > 0, (5.4.21) s < 0. (5.4.22)
В приложении 5A найдены асимптотические выражения этих вероятностей в частном случае, когда zn одинаково распределены. В этом случае [гп (s) не зависит от п и можно опустить индекс п. Результат зависит от того, являются ли случайные величины zn решетчатыми или нет*'. Асимптотические выражения имеют вид
1
________—+ 0 ( -Лг
s\~\/2nN\i" (s) Vl/'V
Pr [w ^ (s)] =
+ exp{7V[n,(s)—s^'(s)]}, s>0 для нерешетчатой случайной величины и
X
(5.4.23)
Pr [w^N\i' (s)]
he
— i s I Л
1/2яУУц" (s)(l — e X exp {TV [fx(s)—(s)]}, s>0
X
(5.4.24)
для решетчатой случайной величины.
В этих выражениях функции о (MYЩ стремятся к нулю быстрее, чем \ fyN с ростом N. При любом заданном s функцией о (МУN) можно пренебречь при достаточно больших N, хотя, когда s стремится к 0, это требуемое N становится все больше и больше. В (5.4.24) h является расстоянием между соседними выборочными значениями (см. приложение 5А), а А равно расстоянию между N\i' (s) и ближайшим большим последовательным выборочным значением w. При s С 0 те же самые выражения справедливы для Рг [ш УУр/ (s)].
*) Решетчатой случайной величиной называется случайная величина, которая принимает лишь значения а + hi, где а и h — фиксированные числа, a i принимает целочисленные значения (см. приложение 5А).
146
8 а N Истинное Г ранида Асимптотическое Г ауссовское
значение Чернова выражение приближение
0,1 0,2 20 0,1327 0,4114 0,1650 0,1318
100 1,95хЮ-3 1,18Х10-2 2,12х Ю~3 7,71 хЮ_3
0,3 20 1,12хЮ-2 4,63хЮ-2 1,22хЮ-2 4,54хЮ_3
100 2,50х 10-8 2,12X10 ---7 2.54ХЮ-8 4,02хЮ-п
0,5 0,6 20 0,2517 0,6685 0,3649 0,2512
100 2,85XiO-2 0,1335 3,26хЮ-2 2.87ХЮ-2
400 3,68х Ю“ 5 3,18хЮ-4 3,88хЮ-5 3,91 х 10“3
1000 1,36x10-!° 1,80хЮ-э 1,39хЮ-10 1,56хЮ-10
