Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
случайного кодирования 544 Суперисточники 509 Суффикса свойство 527 Сферическая упаковка, показатель экспоненты, Esp(R) 173 Сферически упакованные коды 219 Таблица декодирования 217 Таблица используемого материала 15 Телефонная линия 17 Теорема кодирования 25—28, 132— 152
— для источников, см. источник,
теорема кодирования
— для каналов двоичных
симметричных 162, 541
-----дискретных 152
--------, без памяти 155, 160
— — —, —, альтернативный вывод с
использованием пропускной способности 543
— — — —, обращение 93
— — — —, обращение для
блокового кодирования 188
— — — —, сильное обращение 188 , слабое обращение 188
— — — —, упрощенный вывод с
более слабым показателем экспоненты 543
— — — по времени без памяти 337 , 338
— — — —, с ограничениями на
входе 349
-------------, обращение 342
—- — — — диспергирующих с замираниями 54
— — непрерывных по времени,
обращение 441
— — с конечным числом состояний
191—201
— — — —, обращение, 118—125
— — — —, с шумом, не зависящим
от ввода 551
— — — —, состояния известны на
приемнике 20
— — с шумами, обращение 480
— — для кодов с проверкой на
четность 222—225 Теорема Макмиллана 77, см.
Макмиллана АЕР теорема
— Мерсера, см. Мерсера теорема
— переработки информации 97 „
— Рисса—Фишера, см. теорема Рисса—Фишера Теория информации
9, 17 Тест—канал 466
-----прямой и обращенный 493, 500
Тождество Вальда для блужданий с одним барьером, см. " Вальда тождество Условная взаимная информация 37, 45
--------средняя 37
Фазовая модуляция 493 Ферма теорема 556 Фильтры идеальные нижних частот 419—422
— линейные 381
-----меняющиеся, во времени 408—
409
-----с выходом, определяемый
входом 427—431
Формула Шеннона для пропускной способности канала 391 Функции выпуклые, см. выпуклая функция
— вогнутые, см. вогнутая функция
Функция E(R) 27
— из L2 374
— конечной энергии 374
— надежности 176—177
— нормированные, см.
нормированные функции
— ограниченные по времени и
частоте 378
— ортогональные 374
— разложение в ряд Фурье 377
— распределения 42 . совместная 43
— рассеивания 447
Фурье преобразование усеченной синусоиды 378
— ряды 378
Характеристики поля Галуа 243—256 Хаффмана коды 68—72 Хэмминга граница 553, 558
— коды 219, 248
-----в циклической форме 557
— —, символы в произвольном поле
572
— расстояние 177, 217 Цена гипотезы 285
Центральная предельная теорема 206, 539
Циклические коды 237
— — для исправления пакетов
ошибок 309
— — —, построение оптимального
декодера 310
— —, порождающий многочлен 240
— —, проверочный многочлен 240,
557
-----, реализация кодирования 241—
242
Частотная модуляция 493 Чебышева неравенство 142—147 Чернова неравенства 144 Шварца неравенство 503 Шеннона теорема о пропускной
способности ограниченных по полосе каналов с белым гауссовым шумом 407 Шум 28
Шумовая последовательность 216 Энергетическое уравнение 377, 385
Энергия разности, оценка среднего значения 395 Энтропия 21, 36, 39—42
— ансамбля 36
— буквы источника 21 —, выпуклость 102
— в термодинамике 36
— дискретного стационарного
источника 72 -----источника без памяти 86
-----марковского источника 83
— на букву марковского источника
86
— непрерывного ансамбля 47
— — —, условная 47
— P относительно Q 521 Эргодические компоненты 511 Эргодическое множество состояний
марковской цепи 83 Эргодичность 76
ПРЕДИСЛОВИЕ РЕДАКТОРОВ РУССКОГО ПЕРЕВОДА
Круг проблем, составляющих основное содержание этой книги, восходит к К. Э. Шеннону, к его первоначальной работе «Математическая теория связи», опубликованной в 1948 г. В центре внимания книги находится детальное развитие идеи о применении кодирования для помехоустойчивой передачи сообщений по каналам с шумами и для сокращения избыточности, содержащейся в сообщении.
История развития теории информации была бурной и неровной. Новизна тематики, идей и постановок, оригинальность и общность подхода, открытие новых сфер применения современного математического аппарата, а также широковещательное и, быть может, несколько неоправданное название («теория информации» вместо «теория передачи информации») произвели в начале пятидесятых годов своего рода научный бум. В эти годы теория информации привлекла внимание многих ученых за рубежом и в нашей стране, рекрутировала талантливую молодежь. Это не замедлило сказаться на достижениях теории и ее первых шагах практического использования. Именно в пятидесятые годы была выдвинута идея алгебраического кодирования и доказана его оптимальность; построены БЧХ-коды; предложены сверточные и итеративные коды, последовательное декодирование; получены границы вероятности ошибки для оптимальных кодов; исследована пропускная способность многих каналов и е-энтропия источников.
