7.5.2. Модифицированный мнк для схемы активного эксперимента.

Обратимся вначале к регрессирнной задаче (7.83), которая наиболее близка к классическому случаю.

Пусть анализируется единственный результирующий показатель : а) случайные величины фигурирующие в (7.83), независимы в совокупности и

с — некоторая константа, d — матрица , v — стандартизованная (например, ) случайная величина; б) существуют равномерно ограниченные на множестве допустимых условий наблюдения , производные по X функции (см. (7.83)) до третьей включительно.

В рамках предположений а) и б) имеют место соотношения:

где как обычно, означает дисперсию соответствующей случайной величины,

Заметим, что — независимые случайные величины.

Таким образом, регрессионная задача (7.83) с точностью до сводится к регрессионной задаче

где

Отличие (7.86) от (7.82) заключается в том, что дисперсия погрешности зависит от неизвестных параметров Подобным задачам посвящена довольно обширная литература (см., например, [12, 86, 138].

Остановимся на простейших оценках и d известны), предложенных в [182, 138]. Они определяются как предельная точка следующей итерационной процедуры:

или ее модификацией, близкой к методу Ньютона — Рафсона:

где

Множитель выбирается так же, как и в обычной процедуре Ньютона — Рафсона. Во избежание усложнений теоретического плана предполагается, что для любого

Если в дополнение к условию а) из п. 7.5.2 и к условиям, сформулированным в комментариях к (7.85), потребовать: в) последовательность

сходится равномерно по , причем и функция имеет единственный минимум при

г) при всех существуют непрерывные по производные и последовательности

где функции могут совпадать с любой из указанных выше производных, сходятся равномерно по ;

д) матрица неособенная, тогда:

1) , где — вероятность того, что при выборке объема процедура сходится;

2) оценка определяемая (7.87), сильно состоятельная, причем если при данных (7.87) имеет несколько решений, то за принимается любое из них;

3) оценка асимптотически-нормальная, т. е.

причем (см. (7.88)) является сильно состоятельной оценкой матрицы

Отметим, что

Данная теорема говорит о свойствах оценок для задачи (7.86). Для исходной регрессионной задачи все утверждения верны лишь в рамках приближения (7.85).

Оценки (7.87) достаточно просты как с точки зрения их статистического анализа, так и с вычислительной точки зрения. Однако они не могут быть использованы при неизвестных и d. Небольшое усложнение оценок (7.87) позволяет преодолеть эту трудность.

Рассмотрим следующую вспомогательную регрессионную задачу:

В отличие от (7.85) в (7.89) не предполагается какой-либо специальной структуры . Более того, функции могут зависеть от разных групп параметров, входящих в . Чтобы избежать непринципиальных усложнений, будем предполагать, что случайные величины распределены нормально (в исходной задаче следует предположить нормальность и v); при этом в (7.85) остаточный член, впрочем, как и для любого другого симметричного распределения, будет равен

Оценки параметров определяются следующим образом:

Свойства оценок (7.90) можно проанализировать примерно так же, как это делается в [182] с оценками (7.87).

Предположим, что функции удовлетворяют условиям, аналогичным (г), а функция

условию в). Введем матрицу

где

и потребуем (ср. с в)), чтобы существовала матрица и чтобы она была невырождена.

В рамках сделанных предположений:

1) , где — вероятность того, что итерационная процедура (7.90) сходится при выборке объему ;

2) оценка — сильно состоятельная, причем если при данном имеется несколько решений, то за принимается любое из них;

3) оценка асимптотически-нормальна, т. е.

причем матрица является сильно состоятельной оценкой матрицы

Выше предполагалась нормальность распределения случайных величин Результаты остаются в силе, если потребовать, чтобы имели конечные четыре момента, и заменить всюду «агрегат» на , где

Конечно, на практике знание четырех моментов весьма проблематично. Но первые два пункта останутся справедливыми и без такой замены, хотя выражение для асимптотического значения дисперсионной матрицы примет при этом несколько более сложный вид. Интересно отметить, что в тех случаях, когда процедура (7.90) сходится, т. е. определено, то предложенная оценка совпадает с оценкой максимального правдоподобия. Сформулированные утверждения позволяют получить некоторые полезные результаты для исходной задачи.

Если параметры и d известны (см. комментарии к (7.87)), то и

Асимптотическое значение ковариационной матрицы определяется матрицей

С точностью до данная матрица совпадает с матрицей т. е. в рамках используемого приближения исходной задачи усложненная итерационная процедура (7.90) не приводит к оценкам асимптотически лучшим, чем (7.87). При неизвестных можно без труда построить матрицу имея в виду, что

где

где

Из двух последних формул видно, что и d оцениваемы раздельно, если компоненты вектора или вектора линейно-независимы на множестве точек .