4. Наряду с приведенным выше классическим определением функции регрессии в теории и практике статистического исследования зависимостей используются функции А-регрессии, являющиеся наилучшими прогностическими моделями для анализируемого результирующего показателя в смысле минимизации заданного критерия адекватности (агрегированной ошибки прогноза) Функции -регрессии позволяют подбирать наилучшие аппроксимации для неизвестной истинной функции регрессии. Кроме того, они представляют и самостоятельный интерес, позволяя строить и анализировать иную, чем условное среднее, условную характеристику места группирования результирующего показателя обладающую в ряде ситуаций определенными преимуществами перед условной средней.
5. Наиболее распространенными частными случаями -регрессий являются среднеквадратическая, медианная и минимаксная регрессии. Весьма полезными являются и различные варианты так называемых «робастных» регрессий (см. § 7.2).
6. Соотношение истинной , теоретической аппроксимирующей и выборочной аппроксимирующей регрессий существенно зависит от выбора критерия адекватности (определяемого природой регрессионных остатков и класса допустимых решений F. В частности, даже при удачном выборе критерия адекватности в ситуациях, когда истинная функция регрессии не «накрывается» классом допустимых решений F (т. е. когда ) выборочная аппроксимирующая функция регрессии не будет стремиться к истинной при неограниченном росте объема выборки (отсутствие свойства состоятельности , объясняемое неустранимостью ошибки аппроксимации).
7. Истинная регрессия является одновременно среднеквадратической, т. е. дает решение оптимизационной задачи вида (5.6) при квадратичной функции потерь (при отсутствии ограничений на класс допустимых решений ).