Основные утверждения главы VI
1. Успешное решение задачи обучения распознаванию образов с помощью метода минимизации эмпирического риска может быть гарантировано в условиях существования равномерной сходимости частот к вероятностям по классу событий
В этом случае равномерная х-близость частот к вероятностям
обеспечивает -близость качеств найденного решающего правила и наилучшего в классе.
2. Равномерная сходимость частот к вероятностям по классу событий имеет место всегда, когда класс состоит из конечного числа событий.
3. Проблема получения условий равномерной сходимости частот к вероятностям по классу событий, состоящему из бесконечного числа элементов, связана с введением емкостных характеристик бесконечного множества событий образованного бесконечным множеством решающих правил
4. Адекватной емкостной характеристикой класса событий с помощью которой удается сформулировать необходимые и достаточные условия равномерной сходимости частот к вероятностям, является энтропия класса событий на выборках длины Однако эта характеристика строится с учетом вероятностной меры
Оценка энтропии класса событий для самой неблагоприятной вероятностной меры может быть получена с помощью величины определяющей емкость класса решающих правил.
Емкость класса решающих правил легко вычислить — она равна максимальному числу точек которые правилами из делятся на два класса всеми возможными способами.
Равномерная сходимость частот к вероятностям имеет место, когда величина ограничена.
5. Алгоритмы обучения распознаванию образов способны обучаться, если:
— емкость класса решающих правил мала по отношению к объему обучающей выборки;
— выбирается правило, которое доставляет величине эмпирического риска малое значение.