6.9.2. Нижняя граница Гилберта для сверточных кодов при декодировании с обратной связью
Нижняя граница Гилберта для сверточных кодов, используемых при декодировании с обратной связью, для произвольных скоростей передачи
была получена Возенкрафтом [1], когда
В общем случае нижняя граница выводится аналогично, в частности, использованный ниже метод вывода этой границы может быть непосредственно обобщен на случай произвольных кодов.
В случае
блоки
представляют собой просто двоичные символы а матрицы
вырождаются в вектор-столбцы
При
Вектор в левой части (6.174) назовем
-вектором, матрицу размера
в правой части — информационной матрицей, а вектор
информационным вектором. Вектор-строку, компонентами которого являются компоненты информационного вектора и
-вектора, связанные между собой равенством (6.174), будем называть начальным кодовым вектором. Начальный кодовый вектор состоит из
двоичных символов,
из которых являются компонентами информационного вектора, а остальные
-компонентами
-вектора. Говорят, что некоторый код имеет
минимальное расстояние
строго меньшее
если вес некоторого его начального кодового вектора меньше
Всего имеется
двоичных векторов длиной и веса
или менее. Далее потребуется следующая известная оценка сверху для указанной выше суммы в следующей лемме.
Лемма 6.2.
где
функция, называемая энтропией и определяемая равенством
Доказательство. Лемму 6.2 можно доказать различными способами. Здесь, следуя Парку [20], докажем ее методом математической индукции. Для этого положим
1. В случае
и (6.175) выполняется со знаком равенства.
2. В случае
3. В случае
справедливость неравенства (6.175) докажем индукцией. Предположим, что неравенство (6.175) имеет место при
и
и докажем его справедливость при
Сначала заметим, что
и, следовательно,
Оценивая слагаемые в правой части (6.179) с помощью неравенства (6.175), которое по предположению индукции выполняется при данных
и
и полагая
после несложных преобразований находим, что
Покажем, что а
и этим завершим доказательство леммы. Логарифмируя выражения (6.180) и (6.181) и используя неравенство
получаем
Отсюда следует, что
Так как
и при всех
то
следовательно,
Лемма 6.2 доказана.
Используя неравенство (6.175), сумму можно оценить сверху следующим образом:
Так как в случае
информационная матрица в (6.174) имеет ранг
то доля кодов, таких, что заданный информационный вектор с
и произвольный фиксированный
-вектор являются решением (6.174) (т. е. доля кодов, содержащих начальное кодовое слово, образованное заданным информационным вектором с
и заданным
-вектором), равна
Следовательно, доля кодов, содержащих по крайней мере одно из начальных кодовых слов веса
или менее, не превосходит
(здесь мы воспользовались неравенством (6.186)). Отсюда в свою очередь следует, что если
по крайней мере одни из кодов имеет минимальное расстояние
или более. Логарифмируя последнее неравенство и учитывая, что
указанное выше условие существования кода с минимальным расстоянием
или более перепишем в виде
или, что то же самое,
Если этот результат обобщить на случай произвольных кодов, то получится следующая теорема.