§ 122. Уравнения, определяющие оптимальный линейный оператор
Так как класс линейных операторов представляет собой линейное пространство (пример 1 § 120), то для определения оптимального линейного оператора по критерию минимума средней квадратической ошибки можно воспользоваться общим уравнением (120.2). Для того чтобы вывести из уравнения (120.2) уравнение, определяющее оптимальный линейный оператор, заметим, что обозначение аргумента функций, к которым применяется оператор, не имеет значения, так как в результате действия оператора получаются функции аргумента
Поэтому уравнение (120.2) можно переписать в виде:
где индексы у операторов указывают, над функциями каких аргументов они действуют. Так как множители, не зависящие от переменной, над функциями которой действует линейный оператор, можно вносить под знак линейного оператора и операцию математического ожидания можно переставлять с линейными операторами, то
Но математические ожидания в фигурных скобках представляют собой начальные моменты второго порядка случайных функций
Следовательно, на основании (122.2) и (122.3) уравнение (122.1) можно переписать в виде:
Это уравнение должно удовлетворяться для любого линейного оператора В. В частности, оно должно удовлетворяться для такого оператора В, в результате действия которого получается значение преобразуемой функции при каком-нибудь значении Следовательно, уравнение (122.4) может удовлетворяться для всех линейных операторов В только в том случае, если при любом
из области
на которую распространяется действие линейных операторов рассматриваемого класса (т. е. из области наблюдения случайной функции
имеет место равенство
Это условие необходимо, но недостаточно для того чтобы оператор А был оптимальным. Необходимо еще, чтобы уравнение (122.4) удовлетворялось для всех дифференциальных операторов В, содержащихся в рассматриваемом классе линейных операторов
Поскольку внутри области
уравнение (122.5) удовлетворяется тождественно относительно
то при любом
внутри области
удовлетворяются и все уравнения, полученные в результате дифференцирования уравнения (122.5) по
(если
вектор, то по составляющим вектора
Однако, вследствие возможных разрывов производных функции
при
некоторые уравнения, полученные из (122.5) дифференцированием по
могут и не удовлетворяться на границе области
Поэтому условие выполнения равенства (122.4) для всех допустимых дифференциальных операторов В не является следствием уравнения (122.5) для значений
на границе области
и это условие следует добавить к условию (122.5). Таким образом, для того чтобы оператор А был оптимальным, необходимо и достаточно, чтобы он удовлетворял уравнению (122.5) и всем уравнениям, полученным из (122.5) путем применения всех допустимых дифференциальных операций по
при изменении
в замкнутой области
Из этого условия следует, что допустимыми дифференциальными операциями могут быть только такие, в результате двойного применения которых к функции
по одному разу по отношению к каждому аргументу получаются функции, непрерывные при
В задачах автоматики, когда
сигнала
с наложенной на него помехой. Таким образом, для приложений важен случай, когда
где
- случайные величины, не коррелированные со случайными функциями
а
— заданные функции. В приложениях встречаются также задачи, в которых некоторые из величин
не являются случайными, а представляют собой просто неизвестные параметры, которые могут принимать произвольные значения. Такие величины
как мы увидим дальше, можно рассматривать как случайные величины, имеющие бесконечные дисперсии. На основании формул (122.9) и (122.10)
Без ущерба для общности можно ограничиться случаем, когда математические ожидания случайных функций
тождественно равны нулю. Тогда, принимая во внимание, что случайные величины
не коррелированы со случайными функциями
будем иметь:
Кроме того, в этом случае
Вводя обозначение
и принимая во внимание (122.12) и (122.13), приведем формулу (122.11) к виду:
Аналогично получим:
Подставляя выражения (122.15) и (122.16) в уравнение (122.5), приведем его к виду:
Для того чтобы показать, что предположение о том, что математические ожидания случайных функций
тождественно равны нулю, не ограничивает общности, заметим, что в случае, когда математические ожидания случайных функций
не равны нулю, формулы (122.9) и (122.10) могут быть написаны соответственно в виде:
Полагая
приведем формулы (122.18) и (122.19) к виду (122.9) и (122.10), где вместо случайных функций
будут фигурировать соответствующие центрированные случайные функции, а суммы будут содержать на одно слагаемое больше. Следовательно, уравнение, определяющее оптимальный линейный оператор, будет в этом случае также иметь вид (122.17), где верхним пределом суммирования будет не
Величина
в этом случае не будет случайной, и ее смешанные моменты второго порядка со случайными величинами
будут равны:
Заметим, что уравнение (122.7) можно формально рассматривать как частный случай уравнения (122.17), когда
Таким образом, уравнение (122.17) можно считать наиболее общей формой уравнения, определяющего оптимальный линейный оператор по критерию минимума средней квадратической ошибки. В действительности, конечно, уравнение (122.7) является более общим, чем (122.17). Уравнение (122.17) представляет собой частный случай уравнения (122.7), когда случайные функции
выражаются формулами (122.9) и (122.10), в которых случайные функции
не коррелированы со случайными величинами
Из уравнения (122.7) можно получить также более общее уравнение, чем (122.17), когда случайные функции
выражаются формулами (122.9) и (122.10), где случайные функции
коррелированы со случайными величинами
Так как условие (121.14) получается из (120.2) для действительных скалярных случайных функций
и действительных операторов Ли В простым прибавлением произвольного параметра
к случайной функции
то уравнение, определяющее оптимальный линейный оператор по критерию экстремума данной функции математического ожидания и дисперсии ошибки, получится из уравнения (122.7) заменой
суммой
Совершенно так же в правой части уравнения (122.17) появится дополнительное слагаемое
В результате получим вместо (122.17) уравнение
Аналогично выводятся уравнения, определяющие оптимальный линейный оператор по критерию экстремума данной функции математического ожидания и корреляционной матрицы вектора ошибки в задачах воспроизведения векторных сигналов.
Для решения уравнения (122.17) его удобно заменить равноценной системой уравнений, вводя дополнительные неизвестные
Тогда уравнение
примет вид:
Уравнения (122.25) и (122.26) представляют собой систему
уравнений с
неизвестными
Решая уравнения (122.25) относительно разностей —
приведем их к виду:
где, согласно правилу решения линейных алгебраических уравнений,
Здесь
представляет собой определитель системы уравнений (122.25):
а
алгебраическое дополнение элемента у в определителе
Формула (122.28) выражает, что матрица коэффициентов
является обратной по отношению к транспонированной матрице моментов второго порядка случайных величин
(см. Дополнение, I):
Уравнения (122.26) и (122.27) представляют собой окончательную форму общей системы уравнений, определяющей оптимальный линейный оператор А и дополнительные неизвестные
случае критерия минимума средней квадратической ошибки. Величины
показывает формула (122.25), являются в общем случае функциями переменной
В частном случае, когда дисперсии всех случайных величин
бесконечны, уравнения (122.27) принимают вид:
Действительно, разделив в определителе
все элементы
столбца на
а все элементы
-й строки на
приведем его к виду:
где
Величина
представляет собой определитель
в котором отсутствует
строка и
столбец, умноженный на
Поэтому, преобразуя определитель
так же, как мы преобразовали определитель
будем иметь:
где
алгебраическое дополнение элемента
в определителе
Подставляя выражение (122.28) в уравнения (122.27) и пользуясь формулами (122.32) и (122.34), приведем уравнения (122.27) к виду:
Отсюда видно, что если некоторые из величин бесконечны, то соответствующие уравнения (122.27) примут вид (122.31), а в остальных уравнениях (122.27) будут отсутствовать соответствующие неизвестные
Если все величины бесконечны, то все уравнения (122.27) примут вид (122.31).
Уравнения (122.31) представляют собой дополнительные условия, которым должны удовлетворять линейные операторы, среди которых ищется оптимальный оператор. Следовательно, задача определения оптимального линейного оператора, удовлетворяющего дополнительным условиям вида (122.31), является частным случаем задачи воспроизведения сигнала вида (122.10) со случайными коэффициентами
по критерию минимума средней квадратической ошибки. С точки зрения теории автоматического управления задача определения оптимального линейного оператора, удовлетворяющего дополнительным условиям (122.31), представляет собой задачу проектирования линейной системы, точно воспроизводящей по истечении интервала наблюдения любые линейные комбинации данных функций в отсутствие помех и обладающей минимальной средней квадратической ошибкой среди всех таких линейных систем в присутствии помех. С точки зрения математической статистики условия (122.31) представляют собой условия несмещенности оценки сигнала. В самом деле, если оптимальный оператор А удовлетворяет условиям (122.31) для
то он дает несмещенную оценку сигнала
обладающую минимальной возможной дисперсией.
Если некоторые из величин
например
являются неслучайными величинами, которые могут иметь любые (неизвестные) значения, то, полагая
получим на основании (122.9) и (122.10):
Отсюда видно, что средняя квадратическая ошибка при любом выборе оператора А может иметь сколь угодно большие значения, если равенства (122.31) не выполнены для
Тяким образом, для обеспечения минимума средней квадратической ошибки при любых возможных значениях величин
необходимо выполнение равенств (122.31) при
Решая задачу на условный минимум средней квадратической ошибки при дополнительных условиях (122.31) при
получим совершенно так же, как и раньше, уравнение (122.26) и уравнения (122.27), соответствующие
причем в правых частях уравнений (122.27) все коэффициенты при
будут равны нулю. Выше мы видели, что те же уравнения получаются из уравнений (122.26) и (122.27) при
Таким образом, мы доказали, что случай, когда некоторые из величин
являются неслучайными, можно рассматривать как частный случай, когда дисперсии этих величин
бесконечны. Это положение было впервые доказано
Семеновым, которому принадлежит также постановка общей задачи определения оптимального линейного оператора по критерию минимума средней квадратической ошибки в случае, когда наблюдаемая функция и сигнал выражаются формулами (122.9), (122.10) со случайными коэффициентами
Совершенно аналогично, полагая
заменим уравнение (122.24) системой уравнений (122.26) и (122.39). Решая уравнения (122.39) относительно разностей
заменим их уравнениями
Уравнения (122.26) и (122.40) представляют собой окончательную систему уравнений, определяющую оптимальный линейный оператор А и вспомогательные неизвестные
в случае критерия экстремума данной функции математического ожидания и дисперсии ошибки.
Во всех предыдущих выкладках аргументы
могут быть произвольными скалярными или векторными переменными. Вследствие этого все выведенные уравнения, кроме (122.22), (122.24), (122.39) и (122.40), справедливы для векторных функций
так как составляющие векторных функций мы всегда рассматриваем как скалярные функции их аргументов и номеров. Уравнения (122.22), (122.24), (122.39) и (122.40) справедливы также для случая векторной функции
и скалярного сигнала