ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ

После того как в известной работе Шеннона [18] было доказано существование методов передачи, имеющих фиксированную скорость и сколь угодно малую вероятность ошибки, в качестве наиболее актуальной практической задачи теории информации выдвинулась проблема эффективного построения таких методов. Практическая эффективность методов передачи означает, что объем вычислений, проводимых при кодировании и декодировании, должен быть ограничен разумными пределами, определяемыми возможностями современных вычислительных машин. Существуют два подхода к этой проблеме. Широко известны алгебраические методы построения кодов, исправляющих ошибки. Эти методы основаны на выборе кодов, обладающих специфическими алгебраическими свойствами. Особенности алгебраической структуры таких кодов используются при их исследовании и реальном осуществлении. Алгебраической теории кодов посвящено уже более сотни оригинальных работ, а в прекрасной книге Питерсона [8], выходящей сейчас в русском переводе, дано систематическое изложение этой теории.

Менее популярен (хотя и незаслуженно) другой подход к проблеме, предложенный впервые Возенкрафтом и названный им методом последовательного декодирования. Этот подход основан на остроумном сочетании алгебраических и теоретико-вероятностных соображений. Основная идея его состоит, грубо говоря, в том, чтобы при декодировании в тех благоприятных случаях, когда шумы внесли малосущественные искажения, принимать решение сразу, а в менее благоприятных случаях проводить дальнейшее исследование (здесь

напрашивается аналогия с известным последовательным анализом в статистике). Изложению этих очень перспективных идей посвящена предлагаемая читателю книга, написанная профессором Массачусетского технологического института Дж. Возенкрафтом, впервые выдвинувшим эту теорию, совместно с его сотрудником Б. Рейффеном, внесшим в нее существенный вклад.

Содержание книги очень интересно, однако в стиле изложения есть существенные методические недостатки. В книге много неясных и даже туманных мест; читать ее трудно читателю любой квалификации. Объясняется это двумя причинами. Во-первых, книга представляет собой переработку (по-видимому, не очень капитальную) служебных отчетов, в которых были впервые изложены методы последовательного декодирования, и, как это почти всегда бывает в работах первооткрывателей нового научного направления, изложение остается "сырым" (различные разделы изложены с различной степенью подробности, не выбраны наиболее рациональные пути рассуждений, подразумевается, но не сообщается, многое очевидное авторам и не очевидное читателям). Во-вторых, книга написана в традициях технической литературы: нет единой терминологии, формально выделенных определений и утверждений, аппеляции к интуиции часто заменяют строгие математические доказательства. В то же время по существу в книге содержится оригинальная и сложная математическая теория, далеко ушедшая от физической наглядности. "Инженерная" форма книги находится в противоречии с ее математическим содержанием.

Частичному восполнению пробелов книги (в основном в рассуждениях качественного, а не аналитического характера) служат примечания переводчика. Один из таких пробелов заслуживает особого упоминания. Основная математическая гипотеза авторов, служившая асимптотическим оправданием метода, — предположение о степенном росте объема вычислений в зависимости от длины кода — оказалась неверной (см. примечание [10] на стр. 107—108). Этот факт не компрометирует метода последовательного декодирования, поскольку существуют модификации этого метода, для которых гипотеза верна,

и поскольку результаты численного моделирования (см. гл. 5) оказались благоприятными, однако он еще раз подчеркивает желательность более полного математического исследования проблемы.

В книгу включен выполненный В. Н. Кошелевым перевод статьи Рейффена (IRE Trans. Inform. Theory, 8 (1962), № 3, 208—220), опубликованной после выхода английского издания книги и посвященной переносу основных результатов книги на недвоичные каналы. Содержание книги и содержание статьи частично перекрываются, а именно, гл. 6 книги можно рассматривать как резюме статьи, а приложение к статье — как краткое резюме основной части книги. Попытка избежать дублирования, а также восполнить все остальные недостатки книги, далеко вышла бы за рамки возможностей редактора и переводчика и означала бы написание новой книги на эту тему (задача очень актуальная, но трудная).

Мы надеемся, что книга Возенкрафта и Рейффена будет полезна и интересна как инженерам-радиотехникам, связанным с приложениями этой теории, так и математикам. интересующимся исследованиями в области информации.

Р. ЦОБРУШИН

26 апреля 1963 г.

ПРЕДИСЛОВИЕ

В течение последних лет теория кодирования постепенно заняла центральное место в мыслях инженеров, работающих над системами связи. Важность этой теории объясняется тем, что она устанавливает границы того, что может и что не может быть достигнуто. Авторы книги занимались в последнее время исследованием вопроса о построении системы, возможности которой приближаются к таким границам. Главная цель данной монографии — сообщить о результатах этих исследований.

Математические задачи теории кодирования становятся все более и более трудными, когда она приближается к физической реальности систем связи, и все же основные понятия теории кодирования поддаются доступному изложению. Мы предпочли здесь формулировать проблему последовательного декодирования в простейших терминах, достаточных для того, чтобы проиллюстрировать ее основные аспекты.

Больше всего нас интересует, однако, техника систем связи. В соответствии с этим мы попытались в гл. 1 связать теорию кодирования с проблемами передачи информации. В гл. 6 мы обсуждаем возможность переноса основных понятий на случай довольно близких к реальным моделей каналов и указываем область возможных технических приложений.

Для удобства ссылок в гл. 2 дается обзор важнейших полученных ранее результатов, которые существенны для дальнейшего. В гл. 3 и 4 мы рассматриваем соответственно последовательные кодирование и декодирование. В гл. 5 мы приводим полученные нами экспериментальные результаты и обсуждаем возможные модификации процедуры декодирования. Необходимые математические детали отнесены в приложение.

Для чтения монографии предварительного знакомства с вопросом не необходимо. От читателя требуется знание элементов математического анализа и теории вероятностей; полезна также интуиция, создаваемая опытом инженерной работы в области систем связи. Принципы теории информации, которые лежат в основе излагаемого здесь исследования, являются предметом выходящей в свет книги Роберта Фано "Передача информации. Статистическая теория связи". (В Издательстве иностранной литературы готовится к печати русский перевод. — Ред.)

Авторы счастливы, что они имеют возможность выразить свою благодарность профессорам Питеру Элайесу, Роберту Фано и Клоду Шеннону. Они постоянно воодушевляли авторов, и без их руководства, а при случае и понукания, эта работа никогда бы не была ни предпринята, ни завершена.

Джон М. ВОЗЕНКРАФТ Берни РЕЙФФЕН

Кембридж, Массачусетс, август 1960