2.5. Синтез системы и оценка ее помехоустойчивости
Предварительно полезно напомнить некоторые результаты из § 5.3 первого тома.
1. Всегда существует нижняя граница среднеквадратической ошибки, достижимая любой оценкой сообщения 
2. Если любая оценка может достигать этой границы, то и оценка по максимуму апостериорной вероятности может ее достичь.
3. Если оценка по максимуму апостериорной вероятности достигает нижней границы, то она одновременно является и оценкой по минимуму среднеквадратической ошибки.
Эти результаты предполагают следующую процедуру:
1. Выбираем 
так, чтобы средний квадрат ошибки оценивания
был минимальным.
2. Затем сравниваем 
с нижней границей любой оценки, вычисляемой какз случае 2 на стр. 517 первого тома.
3. Если ошибка 
равна границе, то 
одновременно является оценкой по максимуму апостериорной вероятности и оценкой по минимуму среднеквадратической ошибки, а рассматриваемый демодулятор — оптимальным.
Выполним теперь эту процедуру.
2.5.1. Вывод выражения для нереализуемой среднеквадратической ошибки
С точки зрения соотношения между а 
по входу и выходу системы линеаризованную модель можно перечертить, как показано на рис. 2.16. Теперь
Обозначим передаточную функцию замкнутой петли через 
Рис. 2.16. Модель системы по входу и выходу.
Пропуская шум через линейный фильтр и используя передаточную функцию замкнутой петли вместо самой петли, получаем систему, изображенную на рис. 2.17. Теперь
Далее необходимо выбрать 
такими, чтобы среднеквадратическое отклонение между 
было минимальным. Однако это знакомая нам задача нереализуемой фильтрации, изложенная в § 6.2.3 первого тома.
Рис. 2.17. Эквивалентная модель системы по входу и выходу.
Используя формулу (I-6.119), видим, что оптимальная результирующая передаточная функция системы равна
Поэтому потребуем, чтобы
Подстрочным индексом 
отмечено то обстоятельство, что степень фильтрации является оптимальной. (Заметим, что в рамках настоящего рассмотрения 
считается фиксированной.) Таким образом,
Средний квадрат ошибки определяется формулой (6.124) первого тома
или, учитывая (52),
Для оценки нижней границы используем выражения на стр. 517—518 первого тома. Эта задача представляет собой простую комбинацию примеров 1 и 3. Используя выражение (I-5.117), получаем
где правая часть совпадает с правой частью (56). Следовательно, наша оценка является эффективной, а 
одновременно оценкой по максимуму апостериорной вероятности и оценкой по минимуму среднеквадратической ошибки. Поэтому в любом случае, когда справедливо линейное приближение, существуют оптимальный демодулятор и выражение для результирующей среднеквадратической ошибки демодуляции.
Заметим, что передаточные функции двух фильтров нами еще не определены; определено только произведение их передаточных функций. На следующем этапе изложения мы воспользуемся свободой, предоставляемой нам этим обстоятельством.
