§ 8. Задача обучения распознаванию образов и методы минимизации среднего риска

Итак, задача обучения распознаванию образов сводится к задаче о минимизации среднего риска и существуют три традиционных пути решения этой задачи.

Казалось бы, чтобы получить соответствующие алгоритмы обучения распознаванию образов, достаточно в этом частном случае применить общие методы минимизации риска.

Однако на самом деле ситуация не такая уж простая. Методы минимизации риска недостаточно разработаны.

Первый путь приводит к необходимости восстанавливать многомерную функцию. Эффективные методы восстановления функции разработаны лишь для случая, когда функция задана с точностью до значения небольшого числа параметров. Восстановить функцию значит определить значения параметров.

Два других метода минимизации риска могут быть применены не для всяких функций потерь .

Теоретические исследования этих методов минимизации риска как раз и направлены на то, чтобы установить классы функций , для которых эти методы применимы. Специфика задачи обучения распознаванию образов состоит в том, что функции  характеристические. Оказалось, что для таких функций теория минимизации риска не могла гарантировать успех применения методов минимизации.

По существу, задача обучения распознаванию образов есть теория минимизации среднего риска специального вида функций потерь. Ниже, в главах III, IV, V, применительно к задаче обучения машин распознаванию образов будут рассмотрены все три пути минимизации риска.