1.4. ОСНОВНЫЕ ПОНЯТИЯ

Предмет кодирования, контролирующего ошибки, одновременно прост и сложен. Он прост в том смысле, что его задачи легко объяснить любому технически грамотному человеку, и сложен в том смысле, что для того, чтобы получить решение задачи (и даже частное ее решение), потребуется весь объем данной книги, причем изложению должно предшествовать отступление, посвященное некоторым разделам современной алгебры.

Предположим, что все представляющие интерес данные могут быть представлены в виде двоичной (закодированной двоично) информации, т. е. в виде последовательности нулей и единиц. Эта двоичная информация подлежит передаче по каналу,

подверженному случайным ошибкам. Задача кодирования состоит в таком добавлении к информационным символам дополнительных символов, чтобы на приемнике эти искажения могли быть найдены и исправлены. Иначе говоря, последовательность символов данных представляется в виде некоторой более длинной последовательности символов, избыточность которой достаточна для защиты данных.

Двоичный код мощности и длины представляет собой множество из двоичных слов длины называемых кодовыми словами. Обычно где некоторое целое число; такой код называется двоичным -кодом.

Например, можно построить следующий код:

Это очень бедный (и очень маленький) код с но он удовлетворяет приведенному выше определению. Данный код можно использовать для представления -битовых двоичных чисел, используя следующее (произвольное) соответствие:

Если получено одно из четырех -битовых кодовых слов, то полагаем, что соответствующие ему два бита являются правильной информацией. Если произошла ошибка, то мы получим -битовое слово, отличающееся от кодовых слов. Тогда попытаемся найти наиболее вероятно переданное слово и возьмем его в качестве оценки исходных двух битов информации. Например, если мы приняли то полагаем, что передавалось следовательно, информационное слово равнялось 10.

В приведенном примере код не является хорошим, так как он не позволяет исправлять много конфигураций ошибок. Желательно выбирать коды так, чтобы каждое кодовое слово по возможности больше отличалось от каждого другого кодового слова; в частности, это желательно в том случае, когда длина блока велика.

Первой целью данной книги является построение хороших кодов. Хотя с внешней стороны эта задача может показаться простой, на самом деле она чрезвычайно трудна, и многие хорошие коды пока еще не найдены.

По неопытности может показаться, что достаточно определить требования к хорошему коду и затем предпринять машинный поиск

по множеству всех возможных кодов. Но сколько кодов существует для двнных Каждое кодовое слово представляет собой последовательность двоичных символов, и всего имеется таких слов; следовательно, код описывается двоичными символами. Всего существует способов выбора этих двоичных символов; следовательно, число различных -кодов равно Конечно, очень многие из этих кодов не представляют интереса (как в случае, когда два кодовых слова равны), так что надо либо проверять это по ходу поиска, либо развить некоторую теорию, позволяющую исключить такие коды.

Например, выберем код, весьма умеренный по современным стандартам. Тогда число таких кодов превзойдет величину — невообразимо большое число! Следовательно, неорганизованные процедуры поиска бессильны.

В общем случае блоковые коды определяются над произвольным конечным алфавитом, скажем над алфавитом из символов На первый взгляд введение алфавитов, отличных от двоичного, может показаться излишним обобщением. Из соображений эффективности, однако, многие современные каналы являются недвоичными, и коды для этих каналов должны быть недвоичными. На самом деле коды для недвоичных каналов часто оказываются достаточно хорошими, и сам этот факт может служить причиной для использования псдвоичных каналов. Двоичные данные источника тривиальным образом представляются символами -нчного алфавита, особенно если равно степени двойки, как это обычно и бывает на практике.

Определение 1.4.1 - Блоковый код мощности над алфавитом из символов определяется как множество из «у-ичных последовательностей длины называемых кодовыми словами.

Если то символы называются битами. Обычно для некоторого целого и мы будем интересоваться только этим случаем, нвзывая код -кодом. Каждой последовательности из -ичных символов можно сопоставить последовательность -ичиых символов, являющуюся кодовым словом.

Имеются два основных класса кодов: блоковые коды и древовидные коды; они иллюстрируются рис. 1.2. Блоковый код задает блок из информационных символов «-символьным кодовым еловом. Скорость блокового кода определяется равенством

Рис. 1.2. Основные классы кодов.

Древовидный код более сложен. Он отображает бесконечную последовательность информационных символов, поступающую со скоростью символов за один интервал времени, в непрерывную последовательность символов кодового слова со скоростью символов за один интервал времени. Мы отложим рассмотрение древовидных кодов до гл. 12 и сначала сосредоточим внимание на блоковых кодах.

Если сообщение состоит из большого числа битов, то в принципе лучше использовать один кодовый блок большой длины, чем последовательность кодовых слов из более короткого кода. Природа статистических флуктуаций такова, что случайная конфигурация ошибок обычно имеет вид серии ошибок. Некоторые сегменты этой конфигурации содержат больше среднего числа ошибок, а некоторые меньше. Следовательно, при одной и той же скорости более длинные кодовые слова гораздо менее чувствительны к ошибкам, чем более короткие кодовые слова, но, конечно, соответствующие кодер и декодер могут быть более сложпыми. Например, предположим, что 1000 информационных битов передаются с помощью (воображаемого) -битового двоичного кода, способного исправлять 100 ошибок. Сравним такую возможность с передачей одновременно 100 битов с помощью -битового кода, исправляющего 10 ошибок на блок. Для передачи 1000 битов необходимо 10 таких блоков. Вторая схема также может исправлять 100 ошибок, но лишь тогда, когда они распределены частным образом — но 10 ошибок в -битовых подблоках. Первая схема может исправлять 100 ошибок независимо от того, как они

расположены внутри -битового кодового слова. Она существенно эффективнее.

Эти эвристические рассуждения можно обосновать теоретически, но здесь мы к этому не стремимся. Мы только хотим обосновать тот факт, что хорошими являются коды с большой длиной блока и что очень хорошими кодами являются коды с очень большой длиной блока. Такие коды может быть очень трудно найти, а будучи найденными, они могут потребовать сложных устройств для реализации операций кодирования и декодирования.

О блоковом коде судят по трем параметрам: длине блока информационной длине и минимальному расстоянию Минимальное расстояние является мерой различия двух наиболее похожих кодовых слов. Минимальное расстояние вводится двумя следующими определениями.

Определение 1.4.2. Расстоянием по Хэммингу между двумя -ичными последовательностями х и у длины называется число позиций, в которых они различны. Это расстояние обозначается через

Например, возьмем тогда имеем . В качестве другого примера возьмем тогда

Определение 1.4.3. Пусть код. Тогда минимально» расстояние кода равно наименьшему из всех расстояний по Хэммингу между различными парами кодовых слов, т. е.

-код с минимальным расстоянием называется также -кодом.

В коде выбранном в первом примере данного параграфа,

следовательно, для этого кода

Предположим, что передано кодовое слово и в канале произошла одиночная ошибка. Тогда принятое слово находится на равном I расстоянии по Хэммингу от переданного слова. В случае когда расстояние до каждого другого кодового слова больше чем 1, декодер исправит ошибку, если положит, что действительно переданным словом было ближайшее к принятому кодовое слово.

В более общем случае если произошло ошибок и если расстояние от принятого слова до каждого другого кодового слова больше то декодер исправит эти ошибки, приняв ближайшее к принятому кодовое слово в качестве действительно нереданного. Это всегда будет так, если

Иногда удается исправлять конфигурацию из ошибок даже тогда, когда это неравенство не удовлетворяется. Однако если то исправление любых ошибок не может быть гарантировано, так как тогда оно зависит от того, какое слово передавалось и какова была конфигурация из ошибок внутри блока.

Геометрическая иллюстрация дается на рис. 1.3. В пространстве всех -ичных -последовательностей выбрано некоторое множество -последовательностей, объявленных кодовыми словами. Если минимальное расстояние этого кода, наибольшее целое число, удовлетворяющее условию то вокруг каждого кодового слова можно описать непересекающиеся сферы радиуса Принятые слова, лежащие внутри сфер, декодируются как кодовое слово, являющееся центром соответствующей сферы. Если произошло не более ошибок, то принятое слово всегда лежнт внутри соответствующей сферы и декодируется правильно.

Некоторые принятые слова, содержащие более ошибок, попадут внутрь сферы, описанной вокруг другого кодового слова, будут декодированы неправильно. Другие принятые слова,

Рис. 1.3. Сферы декодирования.

содержащие более ошибок, попадут в промежуточные между сферами декодирования области. В зависимости от применения последний факт можно интерпретировать одним из двух способов.

Неполный декодер декодирует только те принятые слова, которые лежат внутри сфер декодирования, описанных вокруг кодовых слов. Остальные принятые слова, содержащие более допустимого числа ошибок, декодер объявляет нераспознаваемыми. Такие конфигурации ошибок при неполном декодировании называются неисправляемыми. Большинство используемых декодеров являются неполными декодерами.

Полный декодер декодирует каждое принятое слово в ближайшее кодовое слово. Геомегрически это представляется следующим образом: полный декодер разрезает промежуточные области на куски и присоединяет их к сферам так, что каждая точка попадает в ближайшую сферу. Обычно некоторые точки находятся на равных расстояниях от нескольких сфер; тогда одна из этих сфер произвольно объявляется ближайшей. Если происходит более ошибок, то полный декодер часто декодирует неправильно, но бывают и случаи попадания в правильное кодовое слово. Полный декодер используется в тех случаях, когда лучше угадывать сообщение, чем вообще не иметь никакой его оценки.

Мы будем также рассматривать каналы, в которых кроме ошибок происходят и стирания. Это значит, что конструкцией приемника предусмотрено объявление символа стертым, если он получен ненадежно или если приемник распознал наличие интерференции или сбой. Такой канал имеет входной алфавит мощности и выходной алфавит мощности дополнительный символ называется стиранием. Например, стирание символа 3 в сообщении 12345 приводит к слову 12-45. Это не следует путать с другой операцией, называемой выбрасыванием, которая дает 1245.

3 таких каналах могут использоваться коды, контролирующие ошибки. В случае когда минимальное расстояние кода равно любая конфигурация из стираний может быть восстановлена, если Далее, любая конфигурация из ошибок и стираний может быть декодирована при условии, Что

Для доказательства выбросим из всех кодовых слов те компонент, в которых приемник произвел стирания. Это даст новый код, минимальное расстояние которого не меньше следовательно, ошибок могут быть исправлены при условии, что выполняется выписанное выше неравенство. Таким образом, можно воссгановигь укороченное кодовое слово с стертыми компонентами. Наконец, так как существует только

одно кодовое слово, совпадающее с полученным в нестертых компонентах; следовательно, исходное кодовое слово может быть восстановлено.