§ 7. Критерии качества оценок
Найти наилучшую линейную оценку можно, непосредственно минимизируя по правую часть равенства (5.55). Минимум выражения (5.55) достигается при и равен нулю.
Таким образом, для каждой конкретной задачи (конкретных и а) может быть указана тривиальная оценка, доставляющая минимум квадрату уклонения. Проблема же состоит в том, чтобы построить линейную оценку, предназначенную для решения не одной задачи, а класса задач.
Зададим множество задач на которые рассчитан алгоритм, неравенствами
Определим качество алгоритма оценивания параметра из множества
Как обычно в такой ситуации рассмотрим две идеи: байесову и минимаксную. В соответствии с этими идеями введем разные понятия качества линейной оценки.
Согласно принципу Байеса наилучшим методом оценивания считается тот, для которого среднее значение критерия по множеству задач из минимально (мера на этом множестве задается распределением . Определение. Оценка
называется линейной наилучшей в среднем, если она среди всех линейных оценок доставляет минимум функционалу
Ниже мы вычислим байесову оценку для случая, когда параметры а и а распределены независимо согласно равномерному закону на соответствующих интервалах, т. е.
Таким образом, качество оценки определяется функционалом
В соответствии с принципом минимакса наилучшим методом оценивания считается такой метод, который доставляет минимум для самой неблагоприятной задачи (пары а, а).
Определение. Оценка
называется наилучшей линейной минимаксной оценкой для класса если она в классе линейных оценок доставляет минимум функционалу
Вообще говоря, в классе могут существовать задачи, для которых введенные оценки и будут хуже оценок метода наименьших квадратов (отлична от нуля лишь координата вектора Поэтому определим третью оптимальную оценку так, чтобы она была равномерно лучше оценки метода наименьших квадратов. Для этого введем функцию потерь
и потребуем, чтобы оптимальная оценка доставляла минимум выражению (5.61).
Определение. Оценка
называется линейной равномерно лучшей, чем оценка наименьших квадратов, если она доставляет в классе линейных оценок минимум функционалу (5.61).