3.3. Оценка статистических характеристик

Как определить статистические характеристики по некоторой заданной функции оценивания Как определить, находятся ли смещение и дисперсия оценки в допустимых пределах? Как можно сравнить эти оценки с другими? Как можно оценить робастность? Предлагаем несколько подходов к ответам на эти вопросы.

(а)Теоретический анализ. Как только процедура оценивания надлежащим образом определена, можно либо построить точное выборочное распределение, либо по крайней мере рассчитать некоторые его характеристики, такие, как среднее (математическое ожидание) и дисперсию. Практически подобный анализ можновыполнить лишь для линейных моделей (см. приложение Д) или применительно к асимптотическому распределению, когда объем выборки безгранично растет. К сожалению, в большинстве обычных ситуаций, т. е. при нелинейной модели и среднем объеме выборки, вопрос остается открытым.

(б) Дублирование экспериментов. Если мы повторим весь набор экспериментов много раз и применим нашу процедуру оцениваний ко всем наборам данных по очереди, то наши оценки образуют большую выборку, извлеченную из выборочного распределения. Эту выборку можно использовать для оценки среднего, дисперсии и других характеристик выборочного распределения. Процедура имеет некоторые весьма серьезные недостатки. Во-первых, она достаточно дорогая, ибо требует проведения очень большого числа экспериментов многократного применения метода оценивания. Во-вторых, хоть мы и можем найти среднее выборочного распределения, но не можем определить смещения, если неизвестны истинные значения параметров. Поэтому мы должны прежде провести ряд экспериментов на системе с известными параметрами. Такая система не всегда существует.

(в) Численное моделирование (метод Монте-Карло). Возражения против метода дублирования экспериментов снимаются, если эксперименты моделируются на компьютере, а не выполняются «а реальной физической системе. Моделирование на компьютере серий экспериментов будем выполнять следующим образом.

1. Определим нашу систему с помощью уравнений модели, вероятностного распределения ошибок и, если необходимо, априорного распределения оценок. Придадим «истинные значения всем параметрам

2. Припишем «истинные» значения переменным в эксперименте Выберем эти значения так, чтобы удовлетворялись уравнения модели Один из возможных путей достижения этой цели — это выбор некоторого подмножества независимых переменных, присвоение его элементам произвольных значений, а затем решение уравнений относительно оставшихся переменных. Задача решается значительно проще, если модель имеет приведенный вид.

3. Используем компьютер для генерирования набора ошибок путем извлечения его из заданного распределения вероятностей. Для большинства компьютеров существуют программы для генерации последовательности случайных чисел, равномерно распределенных на интервале от нуля до единицы Их называют псевдослучайными числами. С помощью соответствующего преобразования этих чисел можно получить выборки из любого другого нужного нам распределения. В приложении мы покажем, как можно получить выборку из многомерного нормального распределения. Для более детального знакомства отошлем читателя к литературе по методам Монте-Карло, например Хаммерсли и Ханскомбу [97].

Добавим теперь полученные значения ошибок к величинам (которые были генерированы ранее вместе чтобы получить результаты «измерений»

4. Теперь процедура оценивания применяется к данным, генерированным с помощью компьютера, так же как мы применяли бы ее к результатам реального эксперимента. В итоге получим оценки параметров

5. Продублируем серии экспериментов многократно, повторяя пункты 3 и 4 всякий раз с новой выборкой ошибок.

6. Соответствующие характеристики выборочного распределения получаются усреднением по всем дублированным сериям экспериментов. Пусть будет оценкой полученной в серии дублируемых экспериментов, общее число повторений. Тогда оценка среднего выборочного распределения выразится формулой

а ковариационная матрица распределения — формулой

Естественно, что эти формулы справедливы также и тогда, когда эксперименты реальны, а не смоделированы.

Смещение оценивается как

Гибкость метода статистического моделирования безгранична. Мы можем оценить характеристики выборочного распределения для любой модели и для любых значений ее параметров. Мы можем определить, каково влияние ошибок в задании вида модели, используя при оценивании модель, слегка отличающуюся от той, которую мы задавали в генераторе данных. Мы можем получить меру робастности оценки, если ошибки взяты из распределения, отличного от предполагаемого в процедуре оценивания. Можно также сравнивать выборочные распределения с полученными теоретически аппроксимациями (см. главу VII). Все это можно проделать на современном компьютере при затратах времени и средств, несоизмеримо меньших, чем затраты на физические эксперименты.

Результаты исследований методом Монте-Карло приведены в разделе 7.22.