§ 7. Обобщение теоремы Гливенко — Кантелли и задача распознавания образов

В этом параграфе мы рассмотрим частный случай: функция потерь функционала

принимает лишь два значения — нуль и единица. Как уже отмечалось, к этому случаю приводится задача обучения распознаванию образов.

Обозначим через S (а множество векторов для которых данная функция потерь а принимает значение единица. Иными словами, S (а есть событие Для фиксированного функционал (2.31) определяет вероятность того, что вектор принадлежит множеству т. е. вероятность события

Соответственно для каждого фиксированного функционал эмпирического риска

определяет частоту события найденную по выборке длины Для того чтобы выделить этот важный частный случай, будем обозначать функционал (2.31) через , а функционал (2.32) — через . В этих обозначениях условие (2.28) перепишется в виде

Оно означает равномерную сходимость частот появления событий к их вероятностям по классу событий . В этих терминах утверждение теоремы Гливенко — Кантелли о том, что эмпирическая функция распределения вероятностей равномерно сходится к истинной функции, есть утверждение о существовании равномерной сходимости частот появления событий к их вероятностям для одной специальной системы событий.

В самом деле, рассмотрим прямую и множество лучей . Это множество лучей задает систему событий (событие заключается в том, что точка принадлежит лучу . В этих терминах утверждение теоремы Гливенко — Кантелли состоит в следующем: «имеет место равномерная сходимость частот появления событий к их вероятностям по классу событий

Рассмотрим теперь следующий класс событий вектор принадлежит событию (здесь если одновременно для всех координат выполнятся неравенства . Множество всех событий и есть . В этих терминах многомерным аналогом теоремы Гливенко — Кантелли является утверждение о существовании равномерной сходимости частот появления событий к их вероятностям по классу событий

Таким образом, требование равномерной сходимости частот появления событий к их вероятностям для различных систем событий, которое возникает при исследовании задачи обучения распознаванию образов, приводит к необходимости обобщения теоремы Гливенко — Кантелли.