Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
-—-ехр (у/Ь)) у < 0,
а + 6
и р(—у\—\)=^р{у\ 1). Постоянные а и b произвольны, а>^>0. (Оказывается, что эта плотность вероятности возникает при рассмотрении релеевского канала с за* мираниями, если входы представляют собой ортогональные функции с равной энергией и выход равен логарифму отношения правдоподобия для выходного сигнала. См. задачу 8.21.)
(а) Найти выражение для пропускной способности канала и вычислить ее предельные значения при Ь/а 1 и Ь/а 0.
(б) Вычислить ^(l)**.
*) Здесь ?0(р) = max Е0 (р, Q).
Q
562
(в) Показать, что декодирование по максимуму правдоподобия сводится к выбору т, которое минимизирует выражение
I У ji '
(г) Вычислить вероятность ошибки при отсутствии кодирования и при использовании приемника максимального правдоподобия.
7.3. Интервал (0,1) является входным алфавитом дискретного по времени канала без памяти, а интервал (0,1) и символ стирания Е — выходным алфавитом. Для каждого входа х, 0 < х < 1, с вероятностью V2 выход у принимает значение х и с вероятностью V2 выход равен символу Е.
(а) Найти пропускную способность этого канала, функцию ?"0(Р) и экспоненту случайного кодирования ET(R). Отметьте, в частности, что Е0(р) разрывна при р = 0.
Указание: рассмотрите случай, когда используется только конечное множество входных букв и перейдите к пределу, когда объем этого множества стремится к бесконечности.
(б) Показать, что для М равновероятных сообщений полученная оценка точно в М/(М — 1) раз больше действительно минимальной достижимой вероятности ошибочного декодирования.
7.4. Алфавитами на входе и выходе дискретного по времени канала без памяти является множество фазовых углов, 0 < х < 2я. В канале действует аддитивный фазовый шум г, где z не зависит от входа х и имеет плотность вероятности pz(z), которая отлична от нуля только для 0 < г < 2я. Выход канала у равен сумме л: + z по модулю 2я. Например, если х = 7я/4 и г <= Зя/2, то у — х + + г — 2я = 5я/4.
(а) Показать, что С и Е0(р) достигаются на входной плотности вероятности Рх(х) — 1/(2я), 0 < х < 2я.
(б) Найти С, Е0(р) и ET(R) в следующих двух случаях:
1) pz(z) = Va; 0 < z < а, и pz(z) — 0 при других значениях г.
7.5. Дискретный по времени канал без памяти имеет вход х, ограниченный интервалом (—А, А), и аддитивный шум z с плотностью вероятности p7(z) = = V2 при — 1 < z < 1 и pz(z) = 0 при других значениях г.
(а) Найти при А = V2 пропускную способность канала и входное распределение, приводящее к ней. Показать, что по множеству входов, которые приводят к пропускной способности, канал эквивалентен двоичному стирающему каналу. Найти экспоненту случайного кодирования Er(R) для этого канала и проверить, что она такая же, как и для ДСтК.
Указание-, угадайте входное распределение и проверьте, что оно приводит к пропускной способности; это наиболее легкий путь получить здесь нужный результат.
(б) Показать, что для произвольного нецелого А средняя взаимная информация и Е0(р, Q) максимизируются на дискретном распределении, которое для каждого целого г, 0 < i < п задается соотношением
Q (A—2i)—Q (—Л +2г) =
п (/г-f 1)
где п = ГА ~\.
Изобразить на графике плотность вероятности выхода при таком распределении на входе и найти С и Er(R) (в параметрическом виде).
(в) Найти максимизирующее распределение для целых А и интерпретировать его как предел для случая нецелых А.
563
7.6. N независимых дискретных по времени каналов с аддитивным гауссовым шумом соединены параллельно. Дисперсия шума л-го канала задается равенством Оп —= п1 для каждого п. Энергия на вхо^е ограничена условием
N
У1 %nln ^ 5.
л = 1
(а) Найти пропускную способность параллельного соединения и найти значения 8„, при которых достигается пропускная способность для случаев N = 2, N = 4, N = оо.
Указание: сначала изменением масштаба сигнала и шума в каждом канале сведите задачу к той, которая решена в § 7.5.
(б) Для случая N = оо найти критическую скорость Rcr и найти Er(Rcr) и ?г(0).
(в) Изменить ограничение, приняв его в виде
N
2 й’п/я < 50,
п = I
и найти новые значения Ч8п, при которых достигается пропускная способность для N = оо.
7.7. Рассматривается множество N параллельных дискретных по времени каналов с гауссовым шумом и дисперсиями шума ст?, 02, ..., on. Предположим, что выбираются два слова для разового использования параллельного множества каналов