7. Условия инвариантности декодирования по критерию максимума отношения правдоподобия

В ряде систем связи канал оказывается несимметричным, априорное распределение — неравномерным, а ошибки декодирования — «неравноценными». Процедура оптимального декодирования в таких ситуациях определяется теоремой IV. 1. К сожалению, получающиеся при этом алгоритмы, как правило, оказываются не такими простыми, как приведенные в двух предыдущих параграфах, а вопрос о наилучшем коде в большинстве случаев может быть решен только методами, мало отличающимися от простого перебора.

Однако при посимвольном и других методах приема множество дискретно, т. е. статистические особенности передачи кодовых комбинаций представляются в виде стохастической матрицы с конечным числом строк и столбцов. Поэтому можно ожидать, что описанные в предыдущих параграфах процедуры кодирования, и особенно декодирования, будут инвариантны относительно специфических особенностей определенного класса систем. (Вопросы инвариантности приемных устройств упоминаются в [26] и частично исследованы в [14]). Задача об инвариантности декодирования по критерию максимума отношения правдоподобия по сути дела сводится к отысканию пары матриц и , таких, что, принимая решение всякий раз, когда

(IV.7.1)

можно гарантировать выполнение условия теоремы IV.1

(IV.7.2)

Для удобства изложения преобразуем матрицу разделив все элементы каждого ее столбца на наибольший элемент того же столбца

(IV.7.3)

где

(IV.7.4)

и

(IV.7.5)

Легко заметить, что, во-первых, и, во-вторых, каждый столбец содержит по крайней мере элементов нулевого порядка малости ; элементов первого порядка малости

(IV.7.6)

элементов второго порядка малости

(IV.7.7)

и т. д. элементов -го порядка малости, т. е. равных

(IV.7.8)

В частности, для симметричных каналов без памяти (включая и каналы со стиранием)

(IV.7.9)

где

(IV.7.10)

Таким образом, в этом случае

(IV.7.11)

С учетом введенных обозначений неравенство (IV.7.2) примет вид

(IV.7.12)

Пусть , тогда в соответствии с критерием

максимума отношения правдоподобия сигнал окажется включенным в подмножество . Для того чтобы этот сигнал был отнесен в то же самое подмножество и в случае, когда система не является простой ( при некоторых ), необходимо выполнение условия

(IV.7.13)

где означает, что среди величин именно .

Теорема IV.8. Если две матрицы и таковы, что для всех и выполняется условие (IV.7.13), то разбиение множества на М подмножеств по критерию максимума отношения правдоподобия и критерию (IV.7.12) совпадает с точностью до комбинаций , для (IV.7.12): которых число (в случае симметричных каналов без памяти с точностью до комбинаций, отличающихся в одинаковом числе позиций по крайней мере от двух кодовых комбинаций).

Пусть ошибки декодирования равноценны, а априорное распределение отлично от равномерного:

(IV.7.14)

Тогда, учитывая, что (для всех k), из (IV.7.13) получим

(IV.7.15)

В худшем случае

(IV.7.16)

(IV.7.17)

а величина -величина первого порядка малости,

(IV.7.18)

Поэтому, если

(IV.7.19)

то попытки существенно уменьшить средний риск путем учета при декодировании неравновероятности передаваемых сообщений не приведут к желаемому результату. Заметим, что для симметричных каналов (IV.7.11) и условие (IV.7.16) примет вид

(IV.7.19a)

Приведем некоторые полезные соображения методам решения неравенства (IV.7.13) в ситуациях, когда

(IV.7.13)

где

Можно показать, что в этом случае неравенство (IV.7.13) будет выполнено для всех по крайней мере тогда, когда оно имеет место для и :

(IV.7.21)

и

(IV.7.22)

Для требуется выполнение только первого неравенства, а для — только второго).

Проведя замену переменных, получим

(IV.7.23)

(IV.7.24)

Примеры. Пусть , тогда соотношения (IV.7.23)-(IV.7.24) принимают вид:

(IV.7.25)

Левые части последних двух неравенств равны по величине, но противоположны по знаку. Поэтому условия инвариантности могут быть найдены из анализа любого из них.

Предположим, что левая часть второго неравенства положительна. Учитывая, что

(IV.7.26)

найдем

(IV.7.27)

где — число величин , содержащихся в столбце (IV.7.3).

Неравенство (IV.7.27) выполняется для всех , если

(IV.7.28)

где

Неравенство (IV.7.28) и есть искомое условие инвариантности для .

Пусть , тогда неравенства (IV.7.23)-(IV.7.24) примут вид

(IV.7.29)

По аналогии с предыдущим

(IV.7.30)

или

(IV.7.31)