Численный пример использования взвешенного метода наименьших квадратов

В табл. 2.1 представлены данные, некоторым образом упорядоченные для того, чтобы было удобнее проводить их анализ. Они включают 35 наблюдений, точнее, результатов опытов часть из которых строго повторные, тогда как другие лишь приблизительно повторные. И те и другие выделены с помощью соответствующих группировок. Обработка данных с помощью обычного метода наименьших квадратов приводит к модели

графики остатков показаны на рис. 2.3. Из этих данных ясно видно, что наблюдения имеют неодинаковые дисперсии. Полный график остатков (на рисунке не показан) представляет собой полосу, отчасти скошенную по направлению к отрицательным значениям. Никакой обычный, невзвешенный метод наименьших квадратов в данном случае не подходит, и, по-видимому, целесообразно воспользоваться взвешенным методом наименьших квадратов.

(кликните для просмотра скана)

Таблица 2.1. (см. скан) Данные примера использования взвешенного метода наименьших квадратов

Мы предполагаем (пока нет никаких противопоказаний), что независимы, так что матрица V диагональна с различными значениями дисперсий, о чем говорилось ранее. Теперь важно получить информацию о значениях этих дисперсий. Для каждой группы повторных или почти повторных опытов вычислим средние значения величин X, обозначенные, скажем, как а также средние квадраты, связанные с «чистой» ошибкой, Они оказались следующими:

Зависимость от X была постулирована в виде квадратичного полинома; с использованием метода наименьших квадратов получили

Теперь можно оценить величины подставляя соответствующие значения в приведенное уравнение. Затем можно найти обратные значения от этих величин и таким образом получить оценки весов указанные в табл. 2.1. Матрица Р в нашем случае диагональна с элементами Использование этих весов приводит к регрессии

(кликните для просмотра скана)

а таблица дисперсионного анализа имеет вид:

Соответствующие «наблюдаемые значения откликов» и «предсказываемые значения откликов» есть теперь а «остатки», подлежащие исследованию, имеют вид Полный график остатков по-прежнему обнаруживает некоторую скошенность, но картина выглядит лучше. Графики остатков на рис. 2.4 показывают» что вертикальные размахи остатков теперь примерно одинаковые на двух основных уровнях преобразованных откликов. На нижних уровнях имеются только два наблюдения, что не слишком много для оценки размаха. Применение взвешенного метода наименьших квадратов, по-видимому, оправдано и полезно. Прекрасные программы взвешенного метода наименьших квадратов для расчетов на ЭВМ приведены в Minitab series (см.: Rуап Т. A., Joiner В. L., Ryan В. F. MINITAB Student Handbook.- Duxbury: Duxbury Press, MA, 1976).

Вычислительные аспекты

Читатель, интересующийся вычислительными аспектами этого метода, может ознакомиться с ними в работе: Gentleman W. М. (Algol 60) Algorithm AS 75. Basic procedures for large, sparse or weighted linear least squares problems. Applied Statistics, 1974, 23, p. 448- 454 и в ссылках, приведенных там.