Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
Книга представляет собой методически превосходно написанный учебник по теории информации, освещающий результаты, полученные вплоть до конца шестидесятых годов. Тщательно отобранный и внутренне согласованный материал книги дает описание различных сторон проблемы передачи информации. Подробно исследуется применимость основных теорем кодирования для обширного класса каналов и источников: дискретных, непрерывных, без памяти и с памятью. Изучаются их характеристики, пропускная способность, энтропия и скорость как функция искажения. Большое место в книге уделяется построению эффективных методов кодирования и декодирования и оценке их сложности, что весьма существенно для приложений теории информации. Кодирование трактуется автором как некоторое преобразование выхода источника (включающее модуляцию); декодирование — как некоторая обработка сигнала, принятого на выходе канала (включающая демодуляцию), т. е. кодирование и декодирование рассматриваются с наиболее общих позиций, объединяющих теории кодирования, модуляции и приема сигналов. Значительное внимание уделяется источникам и каналам без памяти и гауссовским, что вполне естественно, поскольку изучение теории на примере таких источников и каналов, отражающих определенную реальную ситуацию, позволяет довольно быстро войти в существо изучаемого предмета.
Наряду с изложением известных результатов в книге впервые приведен ряд новых, полученных в последнее время автором и его коллегами. Так, например, среди последних имеются результаты, относящиеся к непрерывным каналам (гл. 7) и источникам (гл. 9). Даны также новые доказательства целого ряда опубликованных ранее результатов.
К сожалению, в книге, как отмечает и сам автор, недостаточно полно отражены результаты, полученные в Советском Союзе. Некоторые из них, непосредственно примыкающие к тексту, указаны в комментарии редакторов, приведенном в конце книги. Отметим здесь, что результаты, полученные в нашей стране, в ряде случаев приводят к сущест-
11
венному усилению фактов, приведенных автором. Укажем здесь на работы по последовательному декодированию, по е-энтропии сообщений и исследованию пропускной способности и кодирования для непрерывных источников и каналов. Введены интересные новые классы кодов, исправляющих ошибки, предложены обобщения задачи кодирования источника, когда неизвестна его статистика. Весьма существен для развития теории передачи информации выдвинутый А. Н. Колмогоровым новый подход к ее основаниям.
Для чтения книги требуется знакомство с начальными курсами математического анализа, теории вероятностей, а также элементами теории случайных процессов. Кроме того, предполагается, что читатель имеет некоторую подготовку к восприятию математических доказательств.
Наличие большого числа примеров, упражнений и задач в тексте книги способствует более продуктивному ее усвоению, а также приобретению некоторых навыков к исследованию изучаемых проблем. В русское издание включены решения задач, которые в США были изданы отдельной книгой, доступ к которой разрешен лишь профессорам университетов. В библиографию добавлены публикации на русском языке, вышедшие в основном до 1969 г.
В процессе перевода и редактирования был устранен ряд опечаток, часть из которых нам сообщил Р. Г. Галлагер. Вместе с тем у редакторов остается ощущение, что некоторые опечатки исправить не удалось, особенно в тексте задач и их решений. Кроме того, следует отметить, что автор не всегда строго придерживается принятых им обозначений. Однако это не затрудняет чтения и восприятия материала книги.
Без сомнения, предлагаемая книга Р. Г. Галлагера будет полезна широкому кругу специалистов, работающих в самых различных областях, а также студентам и аспирантам, впервые приступающим к изучению предмета. Следует надеяться, что выход книги будет способствовать взаимопониманию математиков и инженеров, сближению теории и практики передачи информации. Книга может послужить твердой основой для намечающихся в последнее время серьезных тенденций расширения области приложения теории и ее методов.
Перевод книги выполнен Б. С. Цыбаковым (гл. 1—5), К. Ш. Зиган-гировым (гл. 6) и М. С. Пинскером (гл. 7—9).
М. С. Пинскер Б. С. Цыбаков
ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ
Одна из моих главных задач при написании этой книги состояла в том, чтобы перекинуть мост между американскими математиками и инженерами, работающими в теории информации. Математики считают, что техническая литература недоступна им отчасти из-за недостаточного понимания реальных проблем связи, а отчасти из-за невнимания к математической строгости, свойственной технической литературе. Инженеры считают, что математическая литература недоступна им из-за широко распространенного использования в ней незнакомых математических результатов. В связи с этим мое мнение состоит в том, что в большей части книги следует использовать лишь простейшие математические методы, ограничивая общность результатов там, где необходимо избежать затруднений, связанных с математическими тонкостями.
