2.7.2. ПРЕОБРАЗОВАНИЯ, СТАБИЛИЗИРУЮЩИЕ ДИСПЕРСИЮ

а) Общая формула. Когда данные возникают из подсчета (например, сколько стерильных образцов?), их выборочное распределение обычно биномиальное или пуассоновское. Трудности анализа связаны не только с тем, что наблюдения дискретны, но и с тем, что выборочная дисперсия зависит от неизвестного параметра. Например, если наблюдаемые доли успехов в двух совокупностях равны то сравнение соответствующих вероятностей успехов затрудняет зависимость выборочных дисперсий и от параметров (Именно они равны соответственно.) Ситуация упростится, если будет найдено преобразование, превращающее все биномиальные случайные величины в новые переменные, которые имеют постоянную дисперсию; сказанное относится и к пуассоновским переменным. Преобразования, которые в известной степени ведут к такой идеальной ситуации, можно вывести с помощью (2.7.1). Если X имеет ожидаемое значение 0 и дисперсию — преобразование X, то

Подбирая так, чтобы

можно добиться того, что станет постоянной (приближенно). Это произойдет, если

при этом дисперсия преобразованной переменной приближенно равна

б) Пуассоновские данные. Преобразования с помощью извлечения квадратного корня. Предположим, что X имеет распределение Пуассона с параметром так что Тогда (2.7.4) превращается в

Это приводит к преобразованию х в

Наблюдаемые величины преобразуются в преобразованные данные имеют выборочную дисперсию, приближенно равную 1/4.

Точность аппроксимации можно определить путем прямого вычисления по формулам

Представления о точности аппроксимации дает табл. 2.7.2.

Таблица 2.7.2. Эффект стабилизации дисперсии с помощью преобразования квадратного корня пуассоновской случайной величины

Хотя на первый взгляд это преобразование не кажется особенно полезным в смысле достижения постоянной дисперсии, равной 0,25, на самом деле оно значительно уменьшает изменчивость дисперсии для значений параметра в, которые меньше десяти, и поддерживает ее практически постоянной для больших значений.

Энскомб показал, что еще эффективнее преобразование

В этом случае, например, при дисперсия равняется 0,2315, что уже совсем близко к нашей цели — значению 0,25 [см. Wetherill (1981), гл. 8 — С].

в) Биномиальные данные. Преобразование арксинуса (или угловое преобразование). Если X следует распределению Бернулли с параметрами то наблюдения часто преобразуются в статистику которая является обычной оценкой параметра Выборочное распределение с математическим ожиданием и дисперией Соответствующие значения для Попытаемся найти преобразование с постоянной выборочной дисперсией. С помощью (2.7.1) получим выражение

у которого член в правой части будет постоянным если

Это условие удовлетворяется, если принять, что

т.е. если взять

Эквивалентным и более удобным оказывается преобразование т. е. в

Эта случайная величина имеет выборочную дисперсию, приближенно равную . Модификация

предложенная Энскомбом, лучге. Приближенная выборочная дисперсия для этой модификации равняется [см. Wetherill (1981), гл. 8 — С].

г) Стабилизация дисперсии отклика с помощью взвешивания. Если при проведении линейного регрессионного анализа [см. раздел 6.5] выясняется, что рассеяние значений отклика у на графике данных изменяется систематически с изменением переменной х, то дисперсию можно стабилизировать путем простой процедуры взвешивания. Например, если выборочное стандартное отклонение т.е. отклонение значений у, соответствующих значению х, возрастает пропорционально значению х, то переход от к взвешенным данным,

будет стабилизировать дисперсию.