ПЕРЕДАЧА МНОГОЗНАЧНЫМИ ПОСЛЕДОВАТЕЛЬНОСТЯМИ

Только что мы пришли к выводу, что, в случае когда отношение много меньше, чем допустимое число измерений в 1 сек класс сигналов, состоящих из двоичных последовательностей, экспоненциально оптимален. Из рассмотрения фиг. 5.9 следует, что для указанного класса сигналов при величина асимптотически стремится к значению Однако нет сомнений, что при достаточно больших существует надежной связи со скоростями, большими, чем Поэтому нетрудно предсказать, что класс двоичных последовательностей сигналов при достаточно больших 0 не является экспоненциально оптимальным.

Эффект «насыщения» на фиг. 5.9, как указывалось при рассмотрении соотношения возникает вследствие того, что общее число различных -мерных последовательностей равно так что не может превысить бит/сек. Единственная возможность избежать эффекта насыщения — расширение класса допустимых сигналов. Так как во многих случаях, например при дискретной связи по междугородным телефонным линиям велико, а полоса ограничена, важно рассмотреть совокупность сигналов не обязательно лежащих в вершинах гиперкуба.

Шеннон [74] рассмотрел (вывод этого факта выходит за рамки настоящей книги) аддитивные белые гауссонские шумы и -мерную совокупность сигналов у которых ограничена лишь энергия

Фиг. 5.13. (см. скан) Сравнение параметров при двоичной передаче.

Он показал, что существует совокупность сигналов, для которых вероятность ошибки ограничена неравенством

где

Кроме того, он доказал, что существует совокупности сигналов, удовлетворяющей условию для которой неравенство (5.44а) оставалось бы справедливым при произвольных можно было бы заменить большим числом. (В разд. 5.6 мы увидим, что применение более тонких методов нахождения оценки дает для некоторых значений более сильные результаты.)

На фиг. 5.13 представлен график как функции а также график достигаемых для ансамбля двоичных последовательностей сигналов

значений Наше интуитивное представление о том, что при больших отношениях должны достигаться большие, бит/сек, скорости, оказалось верным. При дб величина почти совпадает с , но при дб передача двоичными последовательностями менее желательна. При дб она чрезвычайно неэффективна.

Рассмотрим теперь класс сигналов, для которого значения показателя верхней оценки почти такие же, как даже для больших значений Если не ограничиваться при выборе векторов сигналов вершинами гиперкуба, удается обойти нежелательный эффект «насыщения». Особенно удобным с точки зрения анализа и реализации расширением класса допустимых сигналов является класс сигналов, в котором компоненты векторов сигналов, как и ранее, принимают конечное число значений, но в котором число этих значений (обозначим его через ) больше двух. Общее число сигналов вида

поэтому равно

Для этого класса сигналов «насыщение» не наступает при числе сигналов, меньшем

или скоростях, меньших

Например, если «насыщение» наступает при значении равном а не Поэтому есть основания надеяться получить оценку вида

со значениями большими 1.

Чтобы окончательно определить расширенный класс сигналов, мы должны задать те А значений, которые могут принимать Ограничимся случаем, когда каждому приписывается любое из А значений, равномерно расставленных на интервале показано на фиг. 5.14 для Такой способ задания гарантирует, что для всех Например, на фиг. 5.15 представлены 16 допустимых сигналов для Совокупность значений, которые могут принимать называется алфавитом сигналов и обозначается как . Сами значения называются буквами, а совокупность всех возможных сигналов называется кодовым базисом.

Чтобы определить как функцию А и снова найдем верхнюю оценку усредненной по соответствующему ансамблю систем связи вероятности ошибки Так как каждому сообщению можно поставить в соответствие любой из векторов кодового базиса, общее число различных кодов, т. е. способов поставить в соответствие сообщениям векторы кодового базиса, равно Так же как и в случае здесь учтены коды, которые нескольким сообщениям ставят в соответствие один и тот же вектор. Чтобы найти верхнюю оценку рассмотрим ансамбль систем связи, каждая из которых использует свой код и приемник, оптимальный для этого кода.

Фиг. 5.14.

Фиг. 5.15. Кодовый базис при

Напомним, что представляет собой среднее по ансамблю значение вероятности ошибки входящих в ансамбль систем. При нахождении оценки для мы приписали каждой из систем равные вероятности, откуда получили, что

В случае приписав системам ансамбля различные вероятности, можно уменьшить среднюю по ансамблю вероятность ошибки тем самым увеличив Причина этого явления заключается в том, что алфавит асимметричен, как это видно на фиг. 5.14: хотя каждая буква находится на одинаковом расстоянии от ближайшей соседней буквы, имеют соседей только по одну сторону. Эти крайние буквы являются в некотором смысле более различимыми; интуитивно ясно, что для систем с кодами использующими буквы, близкие к концам, чаще, чем буквы, находящиеся в середине, вероятность ошибки меньше.

Чтобы не затушевать при вычислении преимущества лучших кодов, сопоставление каждой из систем ансамбля вероятности будем

Фиг. 5.16. Код для случая .

проводить следующим образом. Сначала поставим в соответствие каждой букве алфавита неотрицательное число такое, что

Далее для каждой системы рассмотрим соответствующий код и сосчитаем, сколько раз буква , встречается в этом коде; обозначим это число через Каждой из систем припишем вероятность

Так как любой код включает в себя кодовых каждое из которых состоит из символов, ясно, что для каждой системы Например, код представленный на фиг. 5.16, состоит из сообщений. Для него Пусть

Если выбрать то

Можно несколько иначе выразить эту вероятность, если условиться, что компонента оказывается с вероятностью буквой алфавита независимо от всех других компонент и остальных кодовых слов При таком определении вероятность выбора любого кода снова дается соотношением (5.46б). Эта интерпретация подтверждает разумность соотношения как определения вероятности выбора кода.

Выбирая значения соответствующие крайним буквам и большими, чем значения соответствующие средним буквам, мы увеличиваем вклад в среднюю вероятность ошибки систем, коды которых содержат в большей пропорции крайние буквы по сравнению с системами, коды которых содерясат крайние буквы в меньшей пропорции. Если бы мы положили все равными то все возможные коды были бы равновероятны и все системы давали бы одинаковый вклад в Мы сначала вычислим для произвольных а затем найдем значепия максимизирующие

Метод нахождения экспоненциальной оценки для в случае ансамбля, определяемого равенством аналогичен методу нахождения оценки в случае двоичных противоположных символов. Как и ранее,

Если при любых к и всех к можно получить оценку вида

то методом, использованным выше, найдем, что

и, следовательно,

Именно этот результат мы и хотим получить.

Осталось доказать справедливость соотношения и оценить Так как шумы являются аддитивными белыми и гауссовскими, то мы, как и ранее, получим

где компоненты соответственно векторов Усредняя по ансамблю кодов, получим

Если расстояние между буквами алфавита используемого передатчиком, обозначить символом

то оценка правой части упростится» Например, для букв алфавита, изображенного на фиг. 5.14,

Если , то

Снова напомним, что в рассматриваемом ансамбле кодов, вероятность сложного события равна независимо от значения

и выбора всех остальных символов. Поэтому

независимо от и к.

Теперь стало очевидным, почему вероятности выбора различных систем связи в рассматриваемом нами ансамбле желательно выбирать в соответствии с соотношением Используя статистическую независимость различных что математическое ожидание произведения статистически независимых случайных величин равно произведению их математических ожиданий, можно упростить оценку Так как случайные величины а следовательно, и случайные величины

статистически независимы, равенство можно записать в виде

Остальное ясно. Из соотношения следует, что

Обозначив

и

получим

Так как неравенство справедливо для всех и к, мы, как и ранее, можем обозначить через Таким образом, мы подтвердили справедливость соотношении а следовательно, и оценки

причем определяется формулой Средняя вероятность ошибки для ансамбля систем связи, использующих коды с символами, выбираемыми из -буквенного алфавита, стремится к нулю экспоненциально с возрастанием длины кода если только меньше По сравнению со случаем меняется лишь значение форма границы остается такой же.

Оценка получена для любой совокупности состоящей из А букв, и любой совокупности вероятностей . В частном случае, когда все выражение для приводится к виду

Фиг. 5.17. (см. скан) Параметр для случая передачи многозначным алфавитом с равномерно расставленными амплитудными уровнями; вероятности .

Для получим, что и

Это согласуется с полученным ранее результатом . В более общем случае выражение может быть вычислено по заданным значениям при помощи вычислительной машины, что было проделано для алфавита, изображенного на фиг. при значениях = 2, 3, 4, 8, 16, 32 и 64. Кривые зависимости от приведены на фиг. 5.17. Мы видим, что вблизи точек пересечения этих кривых их верхняя огибающая имеет небольшие углубления.

В приложении рассматривается задача нахождения оптимального набора вероятностей для любого заданного алфавита Кривые соответствующие оптимальным для равномерно расставленных букв

Фиг. 5.18. (см. скан) Параметр для случая передачи многозначным алфавитом с равномерно расставленными амплитудными уроипями; вероятности выбраны оптимальным образом.

алфавита, представленного на фиг. 5.14, изображены на фиг. 5.18. Там же приведен график зависимости Мы видим, что углубления исчезли и верхняя огибающая оказывается гладкой.

На фиг. 5.18 пунктиром указана верхняя огибающая «неоптимизирован-ных» кривых, изображенных на фиг. 5.17. Преимущество оптимального выбора по сравнению со случаем одинаковых становится несущественным при соответствующем выборе величины А.

Из фиг. 5.18 ясно, что относительно простой ансамбль кодов, для которого а букв равновероятны и расставлены равномерно, может всегда быть выбран таким образом, чтобы было близко к При всех значениях величина превышает огибающую в неоптимальном случае не более чем на 35 %.

Причины расхождения между в случае передачи многозначными последовательностями легко объяснимы. С одной стороны, Шеннон при вычислении потребовал, чтобы общая длина каждого вектора не превышала . С другой стороны, при вычислении мы потребовали,

чтобы ни одна компонента не была бы больше, чем этого достаточно для выполнения соотношения но не необходимо. Первое условие ограничивает общую энергию каждого сигнала, тогда как второе является ограничением того же типа, что и ограничение на пиковую мощность. Если рассмотреть случай, когда равномерно расставлены на интервале вероятностями то при больших А получим, что математическое ожидание квадрата длины любого вектора равно

Допустимая энергия сигналов, для которых вычислено значение при больших в 3 раза, или на 4,8 дб, больше, чем средняя энергия сигналов, для которых вычислено При имеем и разница составляет 2 дб. Энергетическая разница почти полностью объясняет расхождение между если не учитывать расхождения, не превышающего 1 дб

Это расхождение в 1 дб объясняется принятой нами структурой сигналов ансамбля кодов. Мы потребовали, чтобы все векторы сигналов находились внутри гиперкуба с центром в начале координат и с ребрами длиной 2 Упример для случая показан на фиг. 5.15. От сигналов, рассмотренных Шенноном, требовалось только, чтобы лежали внутри гиперсферы радиуса на фиг. 5.15 ей соответствует круг, ограниченный пунктирной окружностью. При больших дополнительный объем для размещения сигналов, лежащий между сферой и кубом, становится значительным. (Термин «гиперсфера» означает -мерную сферу и математически определяется в разд. 5.5.)

Любая разумная техническая теория должна учитывать не только принципиальные возможности системы, но и сложность ее практической реализации: часто (как это подробно обсулсдается в гл. 6) существенно выгоднее использовать класс сигналов, несколько отличающийся от оптимального, который зато легче реализовать. Для каналов с аддитивным белым гауссовским шумом именно таким классом сигналов являются многозначные последовательности сигналов.

Интересно отметить, что для каждой величины А соответствующее значение аппроксимирует в некотором интервале значений В каждом случае этот интервал лежит на несколько децибел ниже того значения при котором достигает уровня «алфавитного насыщения», равного . Объяснение этого факта аналогично его объяснению в случае оптимизация заключается в выборе таких достаточно больших А, чтобы величину определяло действие шумов, а не возможность выбора плохого кода из-за недостатка возможных последовательностей сигналов.