Основные утверждения главы VI

1. Успешное решение задачи обучения распознаванию образов с помощью метода минимизации эмпирического риска может быть гарантировано в условиях существования равномерной сходимости частот к вероятностям по классу событий

В этом случае равномерная х-близость частот к вероятностям

обеспечивает -близость качеств найденного решающего правила и наилучшего в классе.

2. Равномерная сходимость частот к вероятностям по классу событий имеет место всегда, когда класс состоит из конечного числа событий.

3. Проблема получения условий равномерной сходимости частот к вероятностям по классу событий, состоящему из бесконечного числа элементов, связана с введением емкостных характеристик бесконечного множества событий образованного бесконечным множеством решающих правил

4. Адекватной емкостной характеристикой класса событий с помощью которой удается сформулировать необходимые и достаточные условия равномерной сходимости частот к вероятностям, является энтропия класса событий на выборках длины Однако эта характеристика строится с учетом вероятностной меры

Оценка энтропии класса событий для самой неблагоприятной вероятностной меры может быть получена с помощью величины определяющей емкость класса решающих правил.

Емкость класса решающих правил легко вычислить — она равна максимальному числу точек которые правилами из делятся на два класса всеми возможными способами.

Равномерная сходимость частот к вероятностям имеет место, когда величина ограничена.

5. Алгоритмы обучения распознаванию образов способны обучаться, если:

— емкость класса решающих правил мала по отношению к объему обучающей выборки;

— выбирается правило, которое доставляет величине эмпирического риска малое значение.