5. Инвариантность и несмещенность

Естественное определение беспристрастности появляется в ситуациях, симметричных по отношению к интересующим нас значениям параметра. От процедуры требуется в этом случае симметричность по отношению к этим значениям параметра.

Пример 8. Предположим, что сравниваются два способа действий, каждый из которых применяется раз. Соответствующие результаты наблюдений представляют собою выборки из соответственно. Допускаются три решения и принятие решения при условии, что истинно приводит к потере Если способы действий сравниваются только в терминах и никакие посторонние соображения не принимаются во внимание, то потери являются симметричными по отношению к этим способам, так что

Предположим теперь, что индексы 1 и 2, отмечающие

способы, меняют местами и соответственно меняют индексы и решений Это изменяет смысл символов, но формальная проблема решения, в силу ее симметрии, остается прежней. Поэтому естественно требовать соответствующей симметрии от процедуры 6, т. е. требовать, чтобы или одновременно с

Если бы это условие не было выполнено, то решение того, какая из выборок имеет большее среднее, зависело бы от совершенно несущественного обстоятельства — нумерации выборок. Аналогичные замечания применимы и к другим типам симметрии, встречающимся в этой задаче.

Пример 9. Рассмотрим выборку из распределения с плотностью Пусть проблема состоит в оценке параметра сдвига скажем математического ожидания при функции потерь т. е. равной квадрату ошибки, выраженной -единицах. Предположим, что первоначально результаты наблюдений выражены в футах, и пусть где соответствующие значения в дюймах. В преобразованной задаче плотность равна где Так как то формально проблема не меняется. Та же самая процедура, которая используется для первоначальных наблюдений, пригодна после преобразования. Для где измерено в дюймах, она дает оценку Переводя последнее выражение в футы, мы видим, что если потребовать независимость результата от выбора единицы измерения, то должно удовлетворять условию масштабной инвариантности:

Общим математическим выражением симметрии является инвариантность относительно подходящей группы преобразований. Мы скажем, что группа преобразований пространства выборок оставляет статистическую проблему решения инвариантной, если она удовлетворяет следующим условиям:

(I) Она оставляет инвариантным семейство распределений т. е. для любого возможного распределения случайных величин X распределение скажем также принадлежит Предполагается, что соотношение отображает на и притом взаимно однозначным образом.

(II) Для каждого существует отображение пространства решений на себя, определяемое гомоморфизмом (т. е. удовлетворяет условию ) и такое, что функция потерь не меняется при этом отображении, т. е.

При этих предположениях преобразованная задача в терминах формально идентична первоначальной задаче в терминах Решающая процедура первоначальной задачи остается пригодной и после преобразования. Интерпретируя преобразование как замену координатной системы и, следовательно, замену названий элементов, мы выбрали бы, наблюдая хрешение, которое в новой системе записывается

как а в старой — как Если принимаемое решение не должно зависеть от выбора системы координат, то последнее решение должно совпадать с первоначальным процедура должна удовлетворять условию инвариантности:

Рассмотрения, основанные на инвариантности, применимы лишь тогда, когда проблема обнаруживает некоторую симметрию. Альтернативная формализация понятия беспристрастности, применимая к проблемам другого типа, дается приводимым ниже условием несмещенности. Предположим задачу такой, что для каждого 0 существует единственное правильное решение и что каждое решение является правильным для некоторого 0. Допустим далее, что для всех если правильные решения для совпадают. Тогда функция потерь зависит только от принятого решения, скажем и правильного решения Потеря может быть обозначена поэтому и эта последняя функция указывает, как далеко отстоит от При перечисленных предположениях решающая функция называется несмещенной, если при всех

где индекс 0 указывает распределение, по отношению к которому берутся математические ожидания, и обозначает решение, правильное для 0. Таким образом, является несмещенным, если в среднем подходит ближе к правильному решению, чем к любому из неправильных. Распространяя приведенное определение на любые проблемы решения, называют несмещенным правилом, если для всех

Пример 10. Предположим, что в задаче оценки действительного параметра с помощью доверительных интервалов (пример 4) потеря равна 0 или 1 в зависимости от того, покрывает или не покрывает интервал истинное значение 6. Тогда система интервалов является несмещенной, если вероятность покрытия истинного значения не меньше вероятности покрытия любого другого значения.

Пример И. Рассмотрим задачу с двумя решениями такую, как в примере 1 (I). Пусть обозначают множества значений 0, для которых правильными решениями являются соответственно. Предположим, что потеря равна 0, если выбирается правильное решение, а в противном случае определяется равенствами; для для Тогда

так что (9) приводится к неравенству

и к обратному неравенству для Так как то условие несмещенности (9) превращается в неравенства

Пример 12. В задаче оценки действительной функции при потере, равной квадрату ошибки, условие несмещенности записывается в виде

Добавляя и вычитая внутри скобок в обеих частях неравенства мы преобразуем его к виду

Если является одним из значений функции у, то последнее соотношение выполняется тогда и только тогда, когда

В теории точечных оценок (11) обычно принимается в качестве определения несмещенности. Кроме весьма патологических случаев, равенство необходимо и достаточно для того, чтобы удовлетворяло (9) (см. задачу 2 в конце главы).