6.12. РЕЗЮМЕ

Как мы видели, все МНК-процедуры отбора переменных привели к уравнению как «наилучшему» для данных Хальда. Метод всех возможных регрессий также дал уравнение как второй подходящий вариант, но последующие процедуры показали, что это уравнение менее желательно, чем модель, содержащая (Процедура гребневого следа привела нас к другой модели, отличной от модели метода наименьших квадратов, которая включает все (предикторы X, но имеет смещенные оценки параметров.)

Хотя во многих случаях все МНК-процедуры приводят к одному и тому же уравнению, это не всегда имеет место, как показано Хама-кером (Нamакег Н. С. On multiple regression analysis.- Statistica Nederlandica, 1962, 16, p. 31-56).

В теоретическом отношении наилучшим будет метод всех возможных регрессий, поскольку он позволяет «исследовать все». Благодаря существованию метода выбора «наилучшего подмножества» предикторов (см. 6.2) теперь можно не прибегать к методу всех возможных регрессий. Однако в случае данных Хальда как метод исключения, так и шаговый регрессионный метод приводят к одному и тому же уравнению. Если рассматриваются все регрессии, то выбор предикторов во многом зависит от уровней, при которых отвергаются различные гипотезы с помощью -критерия, а также от отношения статистиков к желаемой степени увеличения величины Необоснованный выбор может привести к совершенно различным уравнениям при использовании разных методов, и в этом нет ничего удивительного.

Мнение. Мы предпочитаем использовать в практических ситуациях шаговый регрессионный метод. Если есть желание исследовать уравнение, полученное шаговым методом, мы отдаем предпочтение а процедуре выбора «наилучшего подмножества» предикторов с использованием С-статистики. Применять метод всех возможных регрессий неразумно, исключая тот случай, когда число предикторов мало. В целом мы пришли к выводу, что процедуры, не основанные на методе наименьших квадратов, мало полезны на практике, хотя мы поддерживаем метод гребневой регрессии, если он применяется при соответствующих условиях, описанных в § 6.7. Если возникают трудности с трактовкой прогноза по построенной модели или функций от оценок регрессионных коэффициентов, то желательно проверить устойчивость модели на основе фактических данных и попытаться выяснить, в чем суть дела, вместо того чтобы вслепую применять

метод, ограничения которого не совсем понятны. Конечно, располагая современными ЭВМ, теперь можно без особого труда выполнить все расчеты, которые мы обсуждали, но может потребоваться несметное количество бумаги. Лучше всего работать с каким-то одним методом и овладеть его специфическими особенностями. Такой подход вероятно выгоднее, чем в течение длительного времени выбирать подходящий метод. Никакой метод не будет хорошо работать при всех условиях, как бы хорошо он не проявил себя на частном примере. Нет метода, который был бы всегда лучше всех остальных. (Если бы это было так, то данная глава была бы куда короче!) Необходимо постоянно иметь в виду, что, если данные беспорядочны, а не получены с помощью специально спланированных экспериментов, любая модель отражает ограничения, которые вытекают из структуры данных и практических ограничений задачи. Методы, описанные в этой главе, могут быть полезными. Однако никакой из них не может компенсировать здравый смысл и жизненный опыт.