§ 3.3. Минимаксный критерий

При построении систем распознавания возможны такие ситуации, когда априорные вероятности появления объектов соответствующих классов неизвестны. Минимизировать средний риск принятия решений на основе байесовской стратегии в этом случае не представляется возможным. Применительно к этой ситуации рационально использовать критерий, который минимизирует максимально возможное значение среднего риска. Этот критерий называют минимаксным критерием.

Минимаксная стратегия состоит в том, что решение о принадлежности неизвестного объекта соответствующему классу принимается на основе байесовской стратегии, соответствующей такому значению при котором средний риск максимален. Покажем

преимущество минимаксной стратегии по сравнению с другими возможными стратегиями в условиях, когда неизвестны значения

При наличии классов средний риск, определяемый (3.11) с учетом того, что равен

Построим график функции помня при этом, что при и при величина (рис. 3.3).

Рис. 3.3

Пусть достигает своего наибольшего значения при Этот риск представляет собой максимальное значение минимального байесовского риска (обозначим его через Применение минимаксного критерия означает, что при отсутствии данных относительно априорных вероятностей появления объектов следует ориентироваться на

Средние потери при определяются касательной к кривой в точке, соответствующей

где ошибки первого и второго рода при априорной вероятности

Так как при средние потери достигают максимума, то касательная, определяемая (3.50), параллельна оси абсцисс и, значит, средние потери неизменны в условиях, когда действительное значение отличается от выбранного

Минимаксная стратегия обеспечивает то, что при и при средние потери не будут превышать максимального значения минимальных средних (байесовских) потерь.

Рассмотрим, к каким результатам приводит выбор другого значения отличного от Положим, что выбрано значение Средние потери в этом случае описываются уравнением касательной к кривой в точке А Уравнение касательной имеет вид

где ошибки первого и второго рода при априорной вероятности

Так как байесовская стратегия обеспечивает минимальный средний риск, то кривая, определяемая (3.49), лежит ниже прямой для всех значений Рассматриваемая стратегия приводит к следующему. Положим, сделано предположение, что априорная вероятность равна Тогда если априорная вероятность на интервале отлична от то средний риск будет меньше, чем при минимаксной стратегии. Но если то потери возрастают, достигая чрезмерных значений. Выбор минимаксной стратегии гарантирует от подобных потерь.

Для определения алгоритма принятия решения, соответствующего минимаксной стратегии, продифференцируем (3.49) по и приравняем производную нулю. В результате получим

Это соотношение, представляющее собой равенство условных средних рисков при ошибках первого и второго рода, позволяет определить и построить следующий алгоритм классификации:

если измеренное значение признака у объекта <о равно то

Минимаксная стратегия, предлагающая значение полагать равным приводит к следующему пороговому значению коэффициента правдоподобия:

Определение позволяет записать алгоритм классификации так же, как:

Если то, как следует из (3.51), минимаксная стратегия приводит к равенству условных вероятностей ошибок первого и второго рода.

В заключение заметим, что минимаксная стратегия есть байесова стратегия для наихудших значений априорных вероятностей, дающая хотя и осторожную, но гарантированную величину среднего риска.