Глава 3. ВЕРОЯТНОСТЬ ОШИБКИ ДЕКОДИРОВАНИЯ

В этой главе развивается методика, позволяющая оценивать сверху вероятность ошибки декодирования произвольных двоичных блоковых кодов. Мы примем, что декодирование производится по методу максимума правдоподобия, а канал имеет двоичный алфавит на входе, произвольный алфавит на выходе и симметричен в некотором, определяемом ниже смысле.

Имеются три причины для построения этой методики. Во-первых, она позволяет выявить возможности кодов с малой плотностью проверок; во-вторых, она служит инструментом для сравнения кодов и лучшего понимания соотношения между свойствами кодового расстояния и вероятностью ошибки декодирования; в-третьих, она дает нам в руки идейно более простую, котя и более сложную аналитически, технику анализа ансамблей случайных кодов. Идейная простота состоит в раздельном анализе канала и ансамбля кодов (используемом при получении свойств расстояния в ансамбле).

3.1. Симметричный канал с двоичным входом

Определим симметричный канал с двоичным. входом как канал с дискретным временем, обладающий следующими свойствами:

1. Входной алфавит X состоит из двух символов, обозначаемых 0 и 1.

2. Выходной алфавит У может представлять собой либо дискретное, либо непрерывное множество действительных чисел.

3. В каждый из дискретных моментов времени выход у статистически зависит только от входа в тот же момент времени

4. Для выхода у выполнены условия симметрии, задаваемые следующим равенством:

В этом равенстве и во всей главе обозначает условную плотность распределения, если непрерывное множество, и условную вероятность, если дискретное множество.

На рис. 3.1 приведены некоторые примеры таких каналов. К сожалению, симметрия в обозначениях входов и выходов отсутствует. Изменение обозначений выходов сильно усложнило бы условие симметрии, задаваемое равенством (3.1), а изменение обозначений входов сделало бы коды с проверками на четность менее привычными для читателя, привыкшего к обозначению выходов символами 0 и 1.