Научная литература
booksshare.net -> Добавить материал -> Физика -> Галлагер Р. -> "Теория информации и надежная связь" -> 220

Теория информации и надежная связь - Галлагер Р.

Галлагер Р. Теория информации и надежная связь — М.: Советское радио, 1974. — 738 c.
Скачать (прямая ссылка): teoriyainformacii1974.pdf
Предыдущая << 1 .. 214 215 216 217 218 219 < 220 > 221 222 223 224 225 226 .. 355 >> Следующая


Вероятности последовательностей из L букв источника и кодирование, определяемое заданным (L, Л4)-кодом источника, определяют совместный ансамбль ULVL последовательностей источника и последовательностей адресата. Точнее, вероятность последовательности источника и = (%, ..., иь) задается равенством

а условная вероятность последовательности адресата v при заданной последовательности источника и определяется равенством

Из теоремы 9.2.1 следует, что если dL — среднее искажение на букву между последовательностями источника и последовательностями адресата для этого кода, то

Вместе с тем, так как имеется не более М последовательностей адресата (т. е. кодовых слов) с отличной от нуля вероятностью, то

Из этих соотношений получаем простое следствие теоремы 9.2.1. Следствие. Для того чтобы (L, Л4)-код источника имел среднее искажение на букву dL, необходимо, чтобы энтропия множества кодовых слов удовлетворяла неравенству

L

Ql (u) = п Q(ut), i=\

1, если v кодовое слово, в которое отображается и,

О в других случаях.

4~/(ul; vL)^R{dL).

L

logM^H(VL) > / (UL; VL).

(9.2.15)

L

H (V*-) > R {dL),

(9.2.16)

a M — неравенству

log M L

>R{dL)-

(9.2.17)

Переходим теперь к изложению основного результата, который фактически содержит это следствие как частный случай.

463
Теорема 9.2.2. Пусть для дискретного источника U без памяти и меры искажения d (k\ j) задана скорость как функция искажения R (d*) и источник порождает одну букву каждые т3 секунд. Пусть последовательность L букв источника связана с адресатом с помощью

N=[_____Lts/tc_( использований дискретного по времени канала и пусть

dL является результирующим искажением на букву источника.

а) Если канал является каналом без памяти (с ограничениями

или без ограничений на входе) и С — его пропускная способность (в натах) на одно использование, то

R (dt) < — С. (9.2.18)

тс

б) Если канал является каналом с конечным числом состояний и

С— его верхняя пропускная способность (в натах) на одно использование, то в пределе при L ос, N — L[_ts/tc______j имеем

R (йоо) < — С. (9.2.19)

т,

с

в) Если канал является каналом с конечным числом А состояний и С — его нижняя пропускная способность (в натах) на одно использование и если входной ансамбль канала XN не зависит от первоначального состояния s0, то по крайней мере для одного значения s0

R(dL)<^-

Тс

Q J log А

N

(9.2.20)

Обсуждение. Для дискретных по времени каналов без памяти и для неразложимых каналов с конечным числом состояний теорема устанавливает, что в пределе при больших L функция R (dL) меньше или равна пропускной способности канала (в натах) на символ источника. Следовательно, если ордината кривой R (d*) равна пропускной способности (в натах на символ источника), то соответствующая абсцисса равна нижней границе среднего искажения на букву, независимо от того, какие преобразования проводятся над источником и на входе и выходе канала. Обратно, если абсцисса обозначает требуемое значение критерия верности, то соответствующая ордината является нижней границей пропускной способности канала, требуемой для достижения этого значения критерия верности. Эта теорема обычно называется обращением теоремы кодирования для источников относительно некоторой меры искажения.

Доказательство. Утверждение а. Из равенства (7.2.11), рассматривая XN, Yw соответственно как входные и выходные ансамбли канала, получаем

464

/(l)L; VL)< /(ХЛ'; Yw).

(9.2.21)
Согласно (7.2.12) для канала без ограничений на входе и согласно

(7.3.5) для канала с ограничением на входе имеем

I(XN-\N)<NC. (9.2.22)

Сочетая (9.2.9), (9.2.21) и (9.2.22), имеем

R(dL)^~-C. (9.2.23)

Так как N ^ Lts/tc, то отсюда получаем (9.2.18).

Утверждение б. Для заданного начального состояния s0 и заданного L (9.2.9) утверждает, что

R(dL)^-^I(V^VL\s0). (9.2.24)

Из (4.6.15) и (4.6.21) имеем

/ (UL; VL| s0) < / (XN; Y"| s0) < NCn . (9.2.25)

Следовательно, независимо от начального состояния

R(dL)^^CN. (9.2.26)

Т'С

Переходя к пределу при L-> оо, получаем С и отсюда следует

(9.2.19).

Утверждение в. Из (4.6.15) и (4.6.23) следует, что существует некоторое начальное состояние s0, для которого
Предыдущая << 1 .. 214 215 216 217 218 219 < 220 > 221 222 223 224 225 226 .. 355 >> Следующая

Реклама

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed

Есть, чем поделиться? Отправьте
материал
нам
Авторские права © 2009 BooksShare.
Все права защищены.
Rambler's Top100

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed