8.7.6. Методические аспекты использования процедур отбора существенных предикторных переменных.
Когда число потенциальных переменных велико, формальное применение любой из рассмотренных процедур отбора может привести к неудовлетворительному с содержательной точки зрения набору предикторных переменных.
Рассмотрим некоторые методические приемы, позволяющие увеличить эффективность применения пошаговых процедур отбора.
1. Повторное применение процедур отбора с принудительно включаемыми переменными (ПВП). Возможность принудительного (обязательного) включения переменных в выходной набор 
достигается достаточно простой модификацией описанных пошаговых процедур, а также методов «всех регрессий» и «ветвей и границ».
При использовании ПВП в процедурах последовательного присоединения и присоединения-удаления формирование выходного информативного набора происходит путем расширения начального набора, состоящего из ПВП, а для процедуры последовательного удаления переменная, удаляемая на каком-либо шаге, не должна входить в число ПВП.
Если имеется возможность использовать ПВП, целесообразно провести, помимо автоматизированного отбора, также и несколько вариантов отбора с различными ПВП. Окончательный набор получится в результате сравнения найденных наборов. Состав ПВП определяется, например, из экспертных соображений. Другой возможный подход к формированию ПВП основан на анализе графика какого-либо из критериев качества набора, выводимого при работе пошаговых процедур. С этой целью отбор переменных целесообразно проводить по возможности до исчерпания всего исходного множества потенциальных переменных с одновременным выводом на каждом шаге значений коэффициентов детерминации и критериев качества набора. Такой режим легко осуществить, если в процедуре предусмотрено условие остановки по достижении определенного числа k переменных в выходном наборе. Тогда, например, для процедур прямого присоединения и присоединения-удаления достаточно положить k = р.
В случае условия остановки, управляемого величиной 
, увеличения числа отбираемых переменных можно добиться, уменьшая значение полагая его равным 20% или даже 30% уровню значимости.
На рис. 8.1 приведены два графика критерия качества набора для процедуры последовательного присоединения (значения критерия качества определены лишь в целых точках, однако для наглядности они соединены линией). Кривая I отражает случай, наиболее часто возникающий при отборе переменных: сначала монотонное возрастание величины критерия качества, а затем ее монотонное убывание. Набор, соответствующий точке максимума, или какой-либо набор в ближайшей (плюс—минус одна-две переменные) его окрестности, является искомым информативным набором.
Рис. 8.1. Варианты зависимости несмещенной оценки коэффициента множественной корреляции 
от количества переменных для пошаговой процедуры последовательного присоединения
Кривая II представляет потенциально более интересный случай отбора: после достижения локального минимума кривая вновь начинает возрастать, и величина критерия качества даже превосходит первый максимум. В этом случае целесообразно исследовать следующие вопросы:
добавление какой переменной изменило ход графика? пусть это переменная 
тогда сочетание каких переменных из 
и привело к скачку критерия качества? В первую очередь подозрительна переменная Затем необходимо провести отбор переменных с принудительным включением переменных 
и других переменных, обусловивших изменение хода графика (такой отбор может также использоваться и для получения ответа на второй вопрос, если, кроме 
в изменении хода графика «виновны» еще и другие переменные из 
2. Экспертное упорядочение переменных по степени их информативности. Для успешного применения процедур отбора, в особенности когда переменных много, важную роль играет априорная (экспертная) оценка значимости потенциальных переменных для рассматриваемой задачи [2, 3, 93]. Например, источником для такой априорной оценки могут быть, во-первых, содержательные соображения об исследуемом явлении и, во-вторых, задачи-аналоги, с которыми уже имел дело исследователь. Во всяком случае полезно разделить имеющиеся переменные на три группы ([93, гл. 15]): 1) ключевые—переменные, о которых известно, что они оказывают существенное влияние на зависимую переменную 
все или некоторые из этих переменных могут быть по требованию исследователя включены в выходной набор в принудительном порядке; 2) потенциально информативные — переменные, возможность влияния которых на зависимую переменную у представляется достаточно обоснованной; 3) «шумовые» — переменные, влияние которых на переменную представляется маловероятным.
После сортировки переменных отбор производится следующим образом.
На первом этапе задача регрессии решается в пространстве ключевых переменных. Проводится анализ точности и адекватности соответствующей линейной модели (см. гл. 11). Если не все из ключевых переменных необходимо в принудительном порядке включить в итоговую модель, то можно попытаться сократить их число, применяя тот или иной пошаговый алгоритм. При этом переменные, не вошедшие в информативный набор, переводятся 
группу потенциально информативных переменных.
Второй этап проводится, если качество регрессионного уравнения, оцененного на первом этапе, является неудовлетворительным. На этом этапе осуществляется отбор переменных из множества, полученного объединением ключевых и потенциально информативных переменных. Переменные, отобранные на первом этапе, включаются в выходной набор в обязательном порядке. Переменные, не вошедшие в информативный набор на втором этапе, переводятся в группу «шумовых». Если первые два этапа не привели к удовлетворительному результату, проводится отбор среди «шумовых» переменных с принудительным включением переменных, отобранных на первом и втором этапах.
