10.3.1. Оптимизация коэффициентов

Из описанного выше следует, что выход эквалайзера можно выразить так

где  – оценка -го информационного символа,  – коэффициенты ячеек фильтра, а  – ранее продетектированные символы. Предполагается, что эквалайзер имеет  ячеек в своем блоке прямой связи и  ячеек в блоке с обратной связью. Заметим, что этот эквалайзер нелинеен, поскольку фильтр обратной связи управляется предшествующими продетектированными символами .

Как критерий минимума пиковых искажений, так и критерий минимума СКО приводит к математически разрешаемой трактуемости оптимизации коэффициентов эквалайзера, как следует из статей Джорджа и других (1971), Прайса (1972), Сальца (1973) и Прокиса (1975). Поскольку критерий минимума СКО более распространен на практике, мы сосредоточим наше внимание на нём. Основываясь на предположении, что предшествующие продетектированные символы в цепи обратной связи приняты правильно, минимизация СКО

приводит к следующей системе линейных уравнений для коэффициентов в фильтре прямой связи:

где

Коэффициенты в фильтре обратной связи эквалайзера определяется через коэффициенты фильтра прямой связи следующим выражением:

Величины коэффициентов в блоке обратной связи приводит к полному исключению МСИ от предшествующих продетектированных символов в предположении, что предыдущие решения были правильными и что  (см. задачу 10.9).