12.5. ВЕРОЯТНОСТНЫЙ АНАЛИЗ АЛГОРИТМОВ ПРИНЯТИЯ РЕШЕНИЯ

12.5.1. Предварительные замечания.

На этапе синтеза алгоритма принятия решения (оптимального, квазиоптимального, эвристического) формируются статистики — функции выборочных значений, которые используются для принятия одной из гипотез или для оценивания неизвестных параметров. Процесс формирования этих статистик представляет прямое описание алгоритма, необходимое для реализации алгоритма техническими средствами.

Однако на этапе прямого описания алгоритма принятия решения исследование физического явления или проектирование технического объекта не заканчивается. Требуются рабочие характеристики (количественные показатели) алгоритма. Для их расчета необходимо определять распределение вероятности или моменты распределения статистик, используемых в алгоритмах. Этот завершающий этап исследования или проектирования назовем вероятностным анализом (косвенным описанием) алгоритма принятия решения, который проводится методами теории вероятностей и теории случайных процессов, изложенными в части I книги.

12.5.2. Характеристики алгоритмов проверки гипотез.

Рабочую характеристику алгоритма проверки гипотез представляет значение принятого критерия качества алгоритма, например среднего риска, апостериорной вероятности гипотезы, вероятности правильного решения. Для байесовского алгоритма различения гипотез рабочей характеристикой служит минимальный (байесовский) средний риск. Для алгоритма максимальной апостериорной вероятности — эта вероятность гипотезы. Для алгоритма, оптимального по критерию Неймана — Пирсона, — минимальная ошибка второго рода при фиксированной ошибке первого рода.

Для сравнения двух алгоритмов проверки гипотезы против альтернативы иногда используют непараметрический критерий качества — коэффициент относительной эффективности (КОЭ). Пусть — два одношаговых алгоритма принятия решения по выборкам размерами соответственно. Потребуем равенства ошибок первого и второго рода при использовании и того, и другого алгоритмов [см. (12.29) и (12.30)]

Отношение размеров выборок

называют коэффициентом относительной эффективности алгоритма по отношению к алгоритму . Если , то алгоритм лучше (эффективнее) алгоритма .

Если не удается вычислить КОЭ, то для сравнения двух алгоритмов используют предельное значение этой величины

(12.34 а)

которое называют коэффициентом асимптотической относительной эффективности (КАОЭ).

12.5.3. Характеристики оценивания.

Рабочую характеристику алгоритма оценивания параметра представляет принятый критерий качества оценки, например средний риск, а для байесовской оценки — минимальный (байесовский) риск.

Широко используемыми характеристиками оценок параметров являются их моменты первого и второго порядка — средние значения и дисперсии.

Если среднее значение оценки совпадает при любом со средним значением оцениваемого параметра , т. е.

(12.35)

то ее называют несмещенной оценкой. В классе несмещенных эффективной называют оценку с наименьшей дисперсией (средним квадратом ошибки). Если

(12.35 а)

то оценку называют асимптотически несмещенной оценкой параметра .

Для сравнения двух оценок и скалярного параметра О по выборке размером используют относительную эффективность

(12.36 а)

для оценок с заданным смещением и

(12.36 б)

для несмещенных оценок. Если , то оценка лучше (эффективнее) оценки . Если — эффективная оценка, то при любых оценках

Иногда для сравнения качества двух оценок используют асимптотическую относительную эффективность (АОЭ)

На основе введенных в этой главе понятий и определений выявляется следующая последовательность этапов (структурная схема) решения задач статистического синтеза: формулировка задачи (цели исследования),

укомплектование априорных данных,

принятие критерия качества,

синтез оптимального алгоритма принятия решения,

анализ рабочих характеристик оптимального алгоритма.

После указанных этапов выполняют анализ сложности реализации оптимального алгоритма, возможные его упрощения на основе квазиоптимального или эвристического алгоритма и сравнения рабочих характеристик последних с рабочей характеристикой оптимального алгоритма.

Когда имеется полный комплект априорных данных, возможен синтез оптимального байесовского алгоритма принятия решения. Таким образом, байесовский алгоритм синтезируется в условиях полной априорной информации.

Неполнота априорных данных — априорная неопределенность — преодолевается различными путями. Один из них — синтез алгоритма по критерию качества, согласованного с имеющимися априорными данными, как было указано в п. п. 12.4.3 - 12.4.6. При этом, однако, всегда предполагается знание функции правдоподобия выборки, которое представляет наиболее значимую априорную информацию. В этой связи будем относить априорную неопределенность (в узком смысле) к незнанию функции правдоподобия выборки. Имея в виду два класса функций правдоподобия — параметрический и непараметрический — выделим два основных типа задач синтеза алгоритмов принятия решения в условиях априорной неопределенности: в условиях параметрической и непараметрической априорной неопределенности.