ПРИМЕР ИЗ ТЕОРИИ СВЯЗИ

На идеях, связанных с понятием условной вероятности, которое, как мы видели, по существу не зависит от того, рассматриваем ли мы случайные величины или случайные векторы, базируются основные понятия теории связи. Сейчас на примере идеализированной одномерной системы связи, схема которой приведена на фиг. 2.34, мы проиллюстрируем многие существенные идеи такого типа. Предположим сначала, что имеется всего два возможных сообщения, т. е. что На вход передатчика подается одно из этих двух сообщений с априорными вероятностями На передатчике поступившему на вход символу сопоставляется напряжение например которое затем подается на вход канала. В канале поданное напряжение искажается, в результате чего к нему прибавляется статистически независимое напряжение с плотностью распределения вероятностей Таким образом, сигнал получаемый на выходе канала, равен сумме случайных величин

Мы хотим найти правило решения для приемника, т. е. правило для определения по любому заданному напряжению на выходе, послано ли сообщение или . В частности, ищется (оптимальное) правило решения для минимизации вероятности ошибки. С математической точки зрения задача соответствует снова исследованию выхода детектора (точка а на фиг. 1.8). В противоположность дискретной модели передачи, рассмотренной выше, теперь, однако, допускается, что может принимать любое вещественное значение, а не только значения из некоторого дискретного

Предположим, что случайное напряжение приняло значение Так как в примере дискретной передачи на стр. 42, вероятность правильного решения принимает наибольшее значение, если отобразить в то сообщение апостериорная вероятность которого является наибольшей. Это значит, что если получено то выход приемника выбирается равным если и только если

Преобразуем неравенство (2.108) к более удобному виду, пользуясь смешанной формой закона Байеса (2.103а). Итак если и только если

или (воспользуемся тем, что в обеих частях неравенства стоит один и тот же знаменатель) если и только если

Фиг. 2.34. Простая модель связи. На вход приемника поступает одно из совокупности М сообщений Выход передатчика равен соответствующему элементу множества из М напряжений Выход приемника ранен одному из элементов множества сообщений .

Для того чтобы продвинуться дальше, вспомним, что если передаваемое сообщение равно . Следовательно, при условии, что есть сообщение на входе, получается из путем прибавления к (известной) постоянной величины При этом условии если и только если . Итак, при заданном способе передачи

Более того, поскольку по предположению шум не зависит от передаваемого сигнала и, следовательно, также от сообщения, то

Отсюда вытекает, что на оптимальном приемнике принимается решение если и только если

Правило решения, задаваемое последним неравенством, легко обобщается на случай Пусть возможными входными сообщениями являются с априорными вероятностями и пусть соответствующие передаваемые напряжения. Оптимальный приемник в качестве снова выбирает сообщение с максимальной апостериорной вероятностью. Рассуждая так же, как при выводе неравенства (2.111), получаем, что если и только если

Если апостериорные вероятности двух или более сообщений совпадают, то можно выбрать произвольно как любое из этих сообщений. Оптимальность решения при этом сохранится.

Для дальнейшего упрощения правила решения, задаваемого неравенствами (2.112), следует использовать точное выражение плотности распределении вероятностей шума Часто встречается случай гауссонского шума, для которого

Тогда правило решения переходит в следующее: если и только если

Эта ситуация иллюстрируется фиг. 2.35,а для откуда ясно, что правилу решения эквивалентно также следующее правило: напряжению сопоставляется если и только если где порог а ранен значению р, при котором пересекаются две кривые. Из неравенств (2.114) при следует, что а может быть найдено по формуле

Фиг. 2.35. Поведение апостериорных вероятностей сообщений в зависимости от значений полученного сигнала .

Оптимальный выход приемника определяется соотношениями (2.112) для любого значения М и для любой плотности распределения вероятностей шума Полезно трактовать функцию как способ разбиения пространства всех возможных значений на совокупность М непересекающихся областей решения случае, иллюстрируемом фиг. совпадает с интервалом совпадает с интервалом . Случай, когда показан на фиг. 2,35, б.

Если передаваемое сообщение, то правильное решение принимается тогда и только тогда, когда полученное напряжение принадлежит области решения Обозначая через правильное решение, получаем

Поскольку события не совместны, то из формулы полной вероятности следует, что безусловная вероятность правильного решения

безусловная вероятность ошибки, обозначаемой через

Для случая двух сообщений на фиг. 2.35

и

Следовательно, вероятность ошибки

Равенство (2.118а) можно записать с помощью функции задаваемой формулой (2.50), вводя новые переменные в первом интеграле и во втором интеграле. Тогда

В частном случае, когда вероятности сообщений совпадают, и вероятность ошибки равна просто

Входные вероятности Априорная вероятность каждого сообщения известна на приемнике до начала передачи. После того как получено напряжение становится известной апостериорная вероятность сообщения равная и на оптимальном приемнике принимается решение в пользу того сообщения, которое обладает наибольшей апостериорной вероятностью. Благодаря наличию канала связи после передачи на приемнике принимается решение с меньшей вероятностью ошибки, чем это можно было бы сделать до передачи.

Если бы канала не было, то на «оптимальном приемнике» следовало бы всегда принимать решение в пользу того сообщения, априорная вероятность которого наибольшая. При этом вероятность ошибки была бы максимальной, если бы все подлежащие передаче сообщения были бы равновероятными. Аналогичное утверждение остается справедливым и в общем случае при наличии канала: добиться точной передачи труднее всего в том случае, когда сообщения равновероятны [27].

Мы докажем это общее утверждение только для случая двоичного входа и гауссовского шума. Во-первых, заметим, что оптимальный порог а определяется соотношением (2.115) для произвольных априорных вероятностей выбор в качестве порога любого другого значения должен увеличить вероятность ошибки, В частности, полагая

мы увеличиваем вероятность ошибки по сравнению с тем значением, которое задается соотношениями (2.118), во всех случаях, за исключением того, когда оптимальное значение порога. Таким образом, наименьшая вероятность ошибки задаваемая формулой (2.118), ограничена сверху

Упрощая правую часть, получаем

Неравенство переходит в равенство, только если Таким образом, вероятность ошибки для двух равновероятных сообщений на входе является строгой верхней границей для вероятности ошибки для случая двух сообщений с произвольными априорными вероятностями. Доказательство закончено.

Иыбор сигналов. Поскольку равновероятные сообщения на входе наиболее трудны для передачи, следует ожидать, что случай равных априорных вероятностей особо интересен и при изучении других аспектов системы связи. Например, рассмотрим, каким образом зависит от напряжений сигнала и если . При этом оптимальный порог а вероятность ошибки равна правой части неравенства (2.119в).

Из неравенства (2.119в) следует, что вероятность ошибки можно сделать сколь угодно близкой к нулю, выбирая достаточно большую разность напряжений Наиболее интересная (и реалистическая) ситуация возникает, когда задано ограничение на наибольшую допустимую величину сигнала:

Ясно, что при наличии этого ограничения разность можно сделать наибольшей, полагая

Тогда

Наименьшая достижимая вероятность ошибки зависит, таким образом, только от отношения

Уже отмечалось, что есть хорошие таблицы функции При больших значениях отношения хорошее приближение для этого интеграла получается следующим образом. Рассмотрим

и будем интегрировать по частям. Если то

Поскольку

получаем неравенства

Эти две оценки и функция изображены на фиг. 2.36.

Фиг. 2.36. (см. скан) Функция и три оценки для этой функцин. Подставляя выражение (2.120в) в последние неравенства, получаем

Таким образом, при увеличении вероятность ошибки уменьшается приблизительно экспоненциальным образом. Несколько типичных значений приведено в табл. 2.2.

ТАБЛИЦА 2.2 (см. скан) Границы вероятности ошибки в двоичном случае

Вторая рерхняя. оценка для функции которую мы также будем использовать в дальнейшем,

представлена графически на фиг. 2.36. Доказательство неравенства (2.122) отнесено к Задаче 2.26.