Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
Первое математическое доказательство теоремы Макмиллана было дано Хинчиным (1956).
К главе 4.
Наиболее общее доказательство обращения теоремы кодирования, основанное на алгебраических свойствах информации, принадлежит Колмогорову (1956). Пропускная способность дискретных каналов в предположении, что шум велик (или мал), исследовалась в работе Прелова (1966).
К главе 5.
Первое строгое доказательство теоремы кодирования для стационарного канала с конечной памятью принадлежит Хинчину (1956). В наиболее общей форме теорема кодирования была доказана Добрушиным (1959), который впер-
692
вые указал, что ее справедливость связана со свойством информационной устойчивости.
Границы для вероятности ошибки в дискретных каналах исследовались в ряде работ советских авторов. Добрушин (1962 б) получил асимптотические выражения для оптимальной вероятности ошибки в каналах, симметричных по входу и выходу. Добрушин (1962 а) и Молчанов (1967) получили выражения для асимптотики оптимальной вероятности ошибки при конечном числе передаваемых сообщений. Границы сферической упаковки для вероятности ошибки в каналах с памятью исследовались Егарминым (1969), который на основе развитого им метода получил выражение для показателя экспоненты в канале с эр-годическим марковским аддитивным шумом. Результаты, аналогичные изложенным в § 5.9, были получены Габидулиным (1969).
К главе 6.
Советская литература по теории кодирования насчитывает более тысячи наименований. Опубликован ряд обобщающих монографий. Укажем здесь лишь монографию Колесника и Мирончикова (1968), посвященную детальному рассмотрению циклических кодов и методов их декодирования.
Новый класс линейных кодов, исправляющих ошибки, предложил Гоппа (1970). Коды этого класса задаются некоторым многочленам над полем GF(^). Коды БЧХ являются единственными циклическими кодами, входящими в этот класс. Построение кодов основано на отождествлении исходного пространства двоичных векторов с некоторым множеством рациональных функций. Параметры кода следующие: п < 2т, k > п — mt, d > 2t -j- 1, где rt — длина кода, k — число информационных символов, t — степепь многочлена, задающего код. Гоппа показал, что для всех введенных кодов существует схема декодирования, аналогичная алгоритму Питерсона для БЧХ-кодов. Гоппа (1971) показал также, что почти все коды рассматриваемого класса приближаются с ростом п к границе Варшамова—Гилберта.
Один отрицательный результат принадлежит Берману (1967) и состоит в том, что для любого циклического кода, длина которого равна произведению конечного числа простых чисел, минимальное расстояние в коде, деленное на п, стремится к нулю с ростом п, т. е. что среди таких кодов нет кодов, приводящих к экспоненциально убывающей вероятности ошибки.
Среди работ по последовательному декодированию необходимо отметить работу Добрушина (1964), посвященную строгому математическому анализу алгоритма Возенкрафта и работу Кошелева (1966 а), предложившего модификацию этого алгоритма. Пинскер (1965) разработал итеративный алгоритм последовательного декодирования, позволяющий увеличить вычислительную скорость процедуры. Новый алгоритм последовательного декодирования был предложен и рассчитан Зигангировым (1966). Этот алгоритм требует меньшего числа операций, чем рассмотренный в книге алгоритм Фано.
К главе 7.
Теорема кодирования для непрерывных по амплитуде и дискретных по времени каналов без памяти является следствием теоремы кодирования, доказанной Добрушиным (1959).
Пропускная способность общего дискретного по времени гауссовского канала без памяти и с памятью рассматривалась в работе Пипскера (1956). Цыбаковым (1965) были найдены выражения для пропускной способности невырожденных и вырожденных многомерных гауссовских каналов.
К главе 8.
Строгое математическое описание и представление белого шума можно найти в книге Гельфанда и Виленкина (1961).
Теорема отсчетов, представленная в §8.1, в советской литературе часто называется теоремой Котельникова.
Выражение для количества информации гауссовских процессов исследовалось во многих работах советских авторов. Применимость теоремы Шеннона для гауссовских каналов является следствием теоремы кодирования Добрушина
693
(1959), информационной устойчивости произвольной пары гауссовских Процессов, доказанной Пинскером (1960), и того факта, что максимальное значение количества информации в гауссовском канале достигается на гауссовской паре входного и выходного процессов.
Пятошиным (1968) исследовалась пропускная способность гауссовского канала, когда на входе канала вводилось дополнительное ограничение, состоящее в том, что число входных сигналов не может быть больше некоторого целого числа К.
В работах советских авторов были предложены и исследованы ряд моделей реальных каналов. В работе Сифорова (1958) приведены формулы и оценки пропускной способности канала с замираниями. Было показано, что наличие замирания уменьшает пропускную способность канала не более чем на 17%. Выражения для пропускной способности различных диспергирующих каналов с замираниями исследовались Цыбакоаым (1959 а, б).
