10.2. ОЦЕНКА ПОСТОЯННЫХ ПАРАМЕТРОВ
Этот термин используется для обозначения обширного класса задач, в которых
являются векторами из евклидова пространства одинаковой размерности, причем последняя остается неизменной и в том случае, когда объем наблюдаемых данных х (например, размерность вектора
увеличивается в процессе наблюдения. Наряду с примерами, в которых постоянство оцениваемых параметров определяется самой исходной постановкой, к подобной задаче сводится и большое число конкретных приложений, в которых идет речь о сугубо переменных величинах, например об оценке функций времени.
Пусть, например, исходная задача статистического решения заключается в разработке правила оценки функции
заданной на интервале
и известным образом зависящей от времени
и совокупности неизвестных параметров к, а последствия от принятия того или иного решения
оценки этой функции на заданном интервале времени — определяются некоторым функционалом
от
определенном на том же интервале
Если потребовать» чтобы решение
имело ту же структуру, что и оцениваемая функция, т. е. определить его как
где k — некоторая оценка к (заметим, что в весьма различных условиях правило решения (10.2.1) является оптимальным), то функционал
определяющий последствия от принятия решения об оценке функции
функцией
превращается в функцию потерь
зависящую только от параметров к и их оценок к, а сама задача статистического решения в соответствии с правилом (10.2.1) сводится к задаче оценки совокупности постоянных параметров k. Наряду с этим простейшим можно привести большое количество других примеров сведения различных практических задач к задаче оценки постоянных параметров.
Оценка постоянных параметров к в условиях параметрически заданной априорной неопределенности является частным случаем рассмотренной в § 6.3 задачи, решение которой заключается в нахождении значений
максимизирующих совместную плотность вероятности
наблюдаемых данных
и параметров к, зависящую от
параметров у. описывающих априорную неопределенность. Обозначая совокупность «полезных» параметров к и «мешающих» параметров у через в, т. е.
и вводя обозначение
мы, очевидно, приходим к задаче нахождения оценок, рассмотренной в гл. 7, путем максимизации функции
зависящей от
и совокупности имеющих данных наблюдения х. Точно так же, как в гл. 7, решение этой задачи может быть получено конечными методами (точными или итеративными), либо с помощью рекуррентных процедур либо путем их сочетания. При этом оценка у является оценкой максимального правдоподобия, а оценка к — оценкой максимальной апостериорной вероятности.
Если, как это бывает в ряде практических задач, априорная плотность распределения вероятности к вообще неизвестна, то максимизацию функции
следует заменить максимизацией функции правдоподобия
а совокупность параметров
сокращается до
Чтобы убедиться в этом, представим случай, когда плотность априорного распределения вероятности к известна настолько плохо, что она может быть задана только с точностью до большого числа параметров
т. е. размерность вектора
велика и превышает размерность вектора k. Переписывая выражение для
из (10.2.3) в виде
и выполняя частную максимизацию по
получаем выражение
из условия максимума которого находятся значения «полезных» к и «мешающих» а параметров.
При всех условиях в соответствии с приведенными в гл. 2 доводами о соотношении значимости текущих данных наблюдения
описанием которых является функция правдоподобия
и априорных данных о к, описанием которых является плотность априорного распределения вероятности
функция
значительно сильнее зависит от к, чем функция
и именно первая из них определяет положение максимума выражения (10.2.5), т. е. значение оптимальной оценки k. Тем более это имеет место в условиях неполного знания априорного распределения вероятности k.
Действительно, если размерность вектора
велика, то функция
очень слабо зависит от к, а если размерность
больше размерности к, то во многих случаях
вообще не зависит от к Пусть, например, априорное распределение к является гауссовым с математическим ожиданием
и корреляционной матрицей,
При этом
где
совокупность несовпадающих элементов