§ 124. Общий анализ уравнений, определяющих оптимальный линейный оператор

В предыдущих двух параграфах было показано, что для определения оптимального линейного оператора или ьеоднородного линейного оператора по критерию минимума средней квадратической ошибки или по более общему критерию экстремума данной функции математического ожидания и дисперсии ошибки необходимо решить относительно оператора уравнение (122.26). Это уравнение содержит, кроме неизвестного оператора вспомогательные неизвестные параметры Поэтому в результате решения уравнения (122.26) мы выразим неизвестный оператор А через вспомогательные неизвестные параметры Подставив это выражение в соответствующие вспомогательные уравнения (122.27) или (122.40), мы получим систему уравнений для определения вспомогательных неизвестных Решением этой системы уравнений завершается определение оптимального линейного оператора по критерию минимума средней квадратической ошибки. В случае критерия экстремума данной функции математического ожидания и дисперсии ошибки в полученном таким образом решении остается дополнительный неизвестный параметр который может быть найден как показано в § 121.

Уравнение (122.26) линейно относительно неизвестного оператора А. Поэтому решение его имеет вид:

где линейные операторы, удовлетворяющие соответственно уравнениям:

Для того чтобы убедиться в том, что решение уравнения выражается формулой (124.1), достаточно умножить уравнения (124.3) на соответствующие множители и сложить все полученные таким образом равенства с уравнением (124.2). На основании изложенного в §§ 122 и 123 для определения оптимального линейного оператора пригодны только такие решения уравнений (124.2) и (124.3), которые преобразуют случайную функцию X в случайные функции, обладающие конечными дисперсиями. Таким образом, задача определения оптимального линейного оператора сводится к нахождению линейных операторов, удовлетворяющих уравнениям (124.2) и (124.3) и преобразующих случайную функцию X в случайные функции конечными дисперсиями, т. е. к нахождению решений уравнений вида

где известная функция, обладающих определенными свойствами.

Предположим, что мы нашли линейные операторы удовлетворяющие уравнениям (124.2) и (124.3). Тогда неизвестный оптимальный линейный оператор А выразится через вспомогательные неизвестные и через операторы А формулой (124.1), и мы будем иметь:

Вводя обозначения

где для краткости положено

приведем формулу (124.5) к виду:

Подставляя это выражение в уравнения (122.27) и вводя обозначение

получим следующую систему линейных алгебраических уравнений для определения вспомогательных неизвестных

Легко видеть, что матрица коэффициентов системы уравнений (124.10) симметрична и определенно положительна. Действительно, матрица симметрична и определенно положительна, как обратная по отношению к матрице моментов второго порядка случайных величин Матрица симметрична, так как вследствие уравнений (124.2) и (124.3) и формулы (124.7)

Наконец, матрица определенно положительна, так как из сравнения формулы (124.11) с (89.4) следует, что матрица является корреляционной матрицей случайного вектора составляющие которого определяются формулой

Таким образом, определитель системы уравнений (124.10) не может быть отрицательным. Он будет заведомо отличен от нуля, если функции линейно независимы. Следовательно, система уравнений (124.10) всегда имеет единственное решение, если функции линейно независимы. Предположение, что функции линейно независимы, очевидно, не ограничивает общности, так как в случае линейно зависимых функций их всегда можно выразить через меньшее количество линейно независимых функций.

Точно так же в случае критерия экстремума данной функции математического ожидания и дисперсии ошибки, подставляя выражение (124.8) в уравнения (122.40), принимая во внимание (124.9) и полагая для краткости

получим для определения вспомогательных неизвестных следующую систему линейных алгебраических уравнений:

Эта система уравнений имеет ту же матрицу коэффициентов, что и система уравнений (124.10). Поэтому она всегда имеет единственное решение, если функции линейно независимы.

Формула (124.1) дает решение уравнения (122.26) в том случае, когда все уравнения (124.2) и (124.3) имеют решение. В § 135 мы увидим, что уравнение (124.2) всегда имеет решение, т. е. всегда существует линейный оператор удовлетворяющий уравнению (124.2) и преобразующий случайную функцию X в случайную функцию, обладающую конечной дисперсией. Что же касается уравнений (124.3), то хотя в большинстве практических задач они также всегда имеют решение, теоретически могут встретиться случаи, когда некоторые из них не имеют решения, обладающего необходимым свойством. В таких случаях изложенный анализ решения уравнений (122.26) и (122.27) или (122.40) теряет силу и формула (124.1) не дает решения задачи. Допустим, что из уравнений (124.3) имеют решение, а остальные не имеют решения. При этом без потери общности можно предположить, что первые уравнений (124.3) имеют решение, т. е. что существуют линейные операторы удовлетворяющие уравнениям (124.3), соответствующим так как это всегда может быть достигнуто соответствующей нумерацией функций Очевидно, что в этом случае уравнение (122.26) может иметь решение только тогда, когда А так как число дополнительных уравнений (122.27) или (122.40) равно то в общем случае для обеспечения равенства величин нулю необходимо в решении уравнения (122.26) иметь еще неопределенных параметров. В § 136 будет показано, что в случае, когда из уравнений (124.3) не имеют решения, существуют независимых решений однородного уравнения:

Обозначим эти решения через Легко видеть, что в этом случае оператор

удовлетворяет уравнению (122.26) при и при произвольных значениях параметров Этими параметрами и можно будет распорядиться так, чтобы удовлетворить уравнениям (122.27) или (122.40) при Пользуясь обозначениями (124.6), мы будем иметь в этом случае:

где дополнительно введено обозначение:

Подставляя выражение (124.17) в уравнения (122.27), принимая во внимание (124.9) и полагая получим следующую систему линейных алгебраических уравнений для определения

Аналогично, подставляя в случае критерия экстремума данной функции математического ожидания и дисперсии ошибки выражение (124.17) в уравнения (122.40), принимая во внимание (124.9) и (124.13) и полагая получим следующую систему линейных алгебраических уравнений для определения

В § 136 будет показано, что всегда можно найти такие линейные операторы удовлетворяющие однородному уравнению (124.15), чтобы коэффициенты определяемые формулой (124.18), были равны нулю при различных индексах и единице при одинаковых индексах:

В этом случае первые уравнений (124.19) принимают вид:

Эти уравнения определяют неизвестные Остальные уравнений (124.19) дают:

Совершенно так же первые уравнений (124.20) принимают в этом случае вид:

а остальные дают:

Таким образом, и в случае, когда некоторые из уравнений (124.3) не имеют решения, оптимальный линейный оператор легко находится, если мы умеем решать уравнения вида (124.4), т. е. находить линейные операторы, удовлетворяющие уравнениям вида (124.4). В этом случае соответствующие операторы в формуле (124.1) заменяются линейными операторами удовлетворяющими однородному уравнению (124.15), а соответствующие параметры заменяются параметрами определяемыми формулами (124.23) или (124.25). Системы уравнений (124.10) и (124.14) заменяются при этом соответственно системами уравнений (124.22) и (124.24).

Сумма в формуле (122.9) в задачах практики обычно представляет собой полезный сигнал, содержащийся в наблюдаемой функции а случайная функция X — помеху. Величины как элементы матрицы, обратной по отношению к матрице моментов второго порядка случайных величин обратно пропорциональны рассеиванию полезного сигнала. Величины определяемые формулой (124.6), обратно пропорциональны рассеиванию помехи X, так как линейные операторы удовлетворяющие уравнениям (124.3), обратно пропорциональны дисперсии помехи Следовательно, чем больше рассеивание сигнала по сравнению с рассеиванием помехи, тем меньше величины по сравнению с и тем меньшее влияние величины оказывают на величины и на определяемый формулой (124.1) или (124.16) оптимальный линейный оператор. Отсюда вытекает важный для практики вывод: чем больше рассеивание сигнала по сравнению с рассеиванием помехи, тем меньшее влияние оказывают вероятностные характеристики сигнала на результат определения оптимального линейного оператора. Поэтому при большом рассеивании сигнала по сравнению с рассеиванием помехи можно допускать большие ошибки в вероятностных характеристиках сигнала без существенного влияния на результат определения оптимального линейного оператора.

Для полного решения задачи определения оптимального линейного оператора необходимо уметь оценивать качество оптимального оператора, т. е. определять соответствующую оптимальному оператору среднюю квадратическую ошибку. На основании формулы (119.1) и линейности оператора А

Но

В случае критерия минимума средней квадратической ошибки

выражение (124.27) в силу равенства (122.5) равно нулю. Следовательно, в случае критерия минимума средней квадратической ошибки формула (124.26) дает:

Величина определяется формулой (122.16). Аналогично найдем:

Подставляя выражения (124.29) и (122.16) в формулу (124.28), получим:

или, принимая во внимание (122.25),

Подставляя сюда выражение (124.1) оператора А и принимая во внимание формулы (124.6), (124.7) и (124.9), получим:

При помощи уравнений (124.10) формуле (124.32) можно также придать вид:

Формула (124.32) или формула (124.33) определяет минимальную среднюю квадратическую ошибку, соответствующую оптимальному линейному оператору.

В случае, когда некоторые из уравнений (124.3) не имеют решения, минимальная средняя квадратическая ошибка, соответствующая оптимальному линейному оператору, также определяется формулой (124.32) или формулой (124.33), в которых в этом случае

В случае критерия экстремума данной функции математического ожидания и дисперсии ошибки случайные функции действительны и на основании формул (124.27), (50.7) и (69.14) и уравнения (122.22)

Подставляя это выражение в формулу (124.26), получим:

В случае, когда случайные функции выражаются формулами (122.9) и (122.10), функции выражаются соответственно формулами (122.16) и (124.29). Подставляя эти выражения и выражение (122.23) величины в формулу (124.35) и принимая во внимание формулы (122.25), (124.1), (124.6) и (124.9), получим окончательное выражение средней квадратической ошибки, соответствующей линейному оператору А, оптимальному по отношению к критерию экстремума данной функции математического ожидания и дисперсии ошибки:

Для оценки качества оптимального оператора в случае критерия экстремума данной функции математического ожидания и дисперсии ошибки необходимо еще определить математическое ожидание ошибки:

В случае, когда случайные функции выражаются формулами (122.9) и (122.10), это выражение вследствие формул (124.1), (124.6) и (124.9) принимает вид:

В случае, когда некоторые из уравнений (124.3) не имеют решения, средняя квадратическая ошибка и математическое ожидание ошибки, соответствующие линейному оператору оптимальному по отношению к критерию экстремума данной функции математического ожидания и дисперсии ошибки, выразятся на основании (124.17) и (124.21) формулами

В заключение параграфа найдем границу области плоскости соответствующей классу линейных операторов. Из формулы (124.37) находим:

Подставив это выражение в уравнение (122.22), видим, что решение уравнения (122.22) можно представить в виде:

где линейные операторы, удовлетворяющие соответственно уравнениям

На основании формулы (124.42)

где

Сравнивая формулы (124.41) и (124.45), получаем уравнение

Отсюда находим:

Далее, вследствие формул (69.14), (124.41) и (124.42)

где

выражается первой формулой (124.46). Подставляя выражения (124.41) и (124.49) в формулу (124.35) и принимая во внимание (124.48), находим:

или

Это и есть уравнение границы области плоскости соответствующей классу линейных операторов. Эта граница представляет собой параболу, обращенную выпуклостью вниз (в полном соответствии с общей теорией § 121), так как вследствие второй формулы (124.46) всегда Любому линейному оператору соответствует некоторая точка лежащая выше параболы (124.52). Наоборот, любой точке лежащей выше параболы (124.52), соответствует некоторый линейный оператор.