3.6. Вероятность ошибки для ансамбля равновероятных кодов

В качестве примера использования соотношений (3.42) и (3.45) рассмотрим частный случай ансамбля равновероятных кодов с проверками на четность, для которого из неравенства (2.1) имеем

где есть скорость кода.

Подставив равенство (3.46) в (3.45) и произведя минимизацию, увидим, что минимум находится в точке и имеет постоянную величину, не зависящую от

Поэтому и правая часть равенства (3.43) не зависит от а, что дает возможность упростить выражения (3.42) и (3.43) (см. приложение Б):

для любого в области

Таким образом, для любого есть линейная функция с наклоном Рис. 3.2 иллюстрирует зависимость от где параметр. Огибающая этого семейства кривых дает искомую зависимость от

Два параметрических уравнения этой огибающей можно получить, положив частную производную по равной 0, что дает

где

Рис. 3.2. Семейство кривых, связывающих экспоненту и скорость в ансамбле равновероятных кодов.

Можно показать следующее: убывает с возрастает с наклон как функции от равен равен пропускной способности канала. Для значений меньших зависимость от задается

соотношением (3.48) при

при

Зависимость от , задаваемая равенствами (3.49) и (3.50), совпадает с найденной Фано [4], если не считать небольших изменений в обозначениях. Соотношения становятся еще проще в специальном случае двоичного симметричного канала (см. рис. 3.1). В этом случае

После некоторых очевидных преобразований получим знакомые результаты:

где

Мы видели, что для ансамбля равновероятных кодов значение X, приводящее к наибольшему вкладу в равно а, где а задается равенством (3.44), которое в случае равновероятного ансамбля упрощается (см. приложение следующим образом:

Любопытное следствие этого факта состоит в следующем. Предположим, что у нас есть способ увеличить минимальное расстояние типичного случайного кода. Влияние такого улучшения на вероятность ошибки декодирования в конкретном канале будет пренебрежимо малым до тех пор, пока минимальное расстояние не станет больше поскольку именно на этом расстоянии возникает большая часть ошибок.

С другой стороны, если скорость кода достаточно мала, минимальное расстояние можно сделать достаточно большим для того, чтобы изменить экспоненту . В гл. 2 было показано, что ансамбль случайных кодов можно улучшить так, чтобы он включал только коды с минимальным расстоянием, не меньшим где

Минимизируя в равенстве (3.45), для этого улучшенного ансамбля получаем

Мы видим теперь, что в улучшенном ансамбле можно использовать те же значения для заданной скорости, что и в неулучшенном ансамбле, и нетрудно получить экспоненциальную оценку для Если мы поступим таким образом, экспонента не изменится по сравнению со случаем неулучшенного ансамбля для скоростей, при которых и увеличится при . Можно показать, что это выражение для экспоненты в самом деле максимально по Можно, кроме того, показать, что при некотором удовлетворяющем при При подстановка равенства (3.58) в (3.43) при и некоторые

упрощения дают следующее:

где ко удовлетворяет уравнению На рис. 3.3 показана зависимость от для случая улучшенного ансамбля.

Рис. 3.3. Улучшенный и неулучшенный ансамбли равновероятных кодов.

Эта оценка для двоичного симметричного канала получена ранее и независимо в еще не опубликованной работе Элайеса.