Главная > Теория распознавания образов (статистические проблемы обучения)
НАПИШУ ВСЁ ЧТО ЗАДАЛИ
СЕКРЕТНЫЙ БОТ В ТЕЛЕГЕ
<< Предыдущий параграф Следующий параграф >>
Пред.
След.
Макеты страниц

Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше

Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике

ДЛЯ СТУДЕНТОВ И ШКОЛЬНИКОВ ЕСТЬ
ZADANIA.TO

§ 8. Примеры и дополнительные замечания

В примере 1 § 3 в качестве пространства  взята прямая, а в качестве системы  – множество всех лучей вида . В этом случае

есть функция распределения случайной величины ,  есть эмпирическая функция распределения этой случайной величины, построенная по выборке .

Согласно теореме 10.2

.

Поскольку в соответствии с (10.9) в данном случае , то

и имеет место равномерная сходимость эмпирических функций к функциям распределения почти наверное. Это – известная теорема Гливенко.

В примере 3 § 3  – -мерное пространство,  – система подмножеств вида

 .

В соответствии с формулами (10.19), (10.10) и (10.15) при любом задании распределения в пространстве

,

где  и  – соответственно частота и вероятность события , и следовательно, при  величина

стремится к нулю с вероятностью единица. Аналогично, если система  состоит из множеств вида

,

то

и, очевидно, также с вероятностью 1 имеет место равномерная сходимость частот к вероятностям.

Это весьма существенный для приложений результат. В известном смысле он может рассматриваться как обобщение теоремы Гливенко.

Замечание 1. Пусть дано конечное число систем

,

для каждой из которых известна функция роста . Пусть далее, система событий  такова, что каждое событие  есть пересечение некоторых событий

,

где событие  принадлежит соответственно системе .

Тогда

.

В самом деле, для произвольной выборки  в каждой системе  найдется не более  неэквивалентных событий. Рассматривая всевозможные их пересечения, получим, что

.

При этом, если каждая из функций  растет не быстрее, чем степенным образом, то и функция  растет не быстрее некоторой степени.

Пример 4. Обобщение теоремы Гливенко на -мерный случай в ином смысле имеет место, если в качестве  взять , а в качестве  – систему множеств вида

.

В силу приведенного замечания в этом случае

и, таким образом, равномерная сходимость также имеет место.

Пример 5. Пусть  – -мерное евклидово пространство,  – любые выпуклые многогранники с числом граней, не превосходящим .

Тогда

,

так как каждый такой многогранник может рассматриваться как пересечение  множеств вида

.

Следовательно, и для этой системы имеет место равномерная сходимость частот к вероятностям.

В примере 2 § 3  и наши условия не гарантируют равномерную сходимость частот к вероятностям. И действительно, как легко убедиться, например, при равномерном распределении (и любом непрерывном) такой сходимости нет.

Замечание 2. Выше было установлено, что для всех систем событий , у которых функция роста не равна тождественно , всегда имеет место равномерная сходимость частот событий к вероятностям независимо от вероятностной меры . При этом формула (10.19) позволяет оценить величину максимального по классу  уклонения частот от вероятностей независимо от распределения .

В случае же, когда , величина максимального по классу  уклонения частоты от вероятности не может быть оценена нетривиальным образом, ни при каком конечном , если не используются сведения о распределении .

С одной стороны, существуют распределения, при которых величина

с вероятностью 1 равна нулю при ; таким будет распределение, сосредоточенное в какой-либо одной точке . Это означает, что вероятностная мера задается условиями:

, если ,

, если

(для простоты будем считать, что одноточечное множество  измеримо, хотя эта оговорка не принципиальна).

Тогда с вероятностью 1 выборка будет состоять только из повторяющегося элемента

.

Очевидно, что при этом для всех

, если ,

,  если

и, следовательно,

,

каков бы ни был класс .

С другой стороны, если , то существуют такие распределения, что величина

со сколь угодно большой достоверностью сколь угодно близка к единице.

Тем не менее, как будет показано в главе XI, существуют примеры систем, для которых  и все же при любом распределении имеет место равномерная сходимость. Поэтому настоящее замечание означает, что при  без сведений о распределении  невозможно оценить скорость равномерной сходимости.

В заключение этого параграфа докажем теорему.

Теорема 10.4. Допустим, что все одноточечные множества пространства  измеримы и задана система событий  такая, что

.

Тогда по заданным ,  можно указать такое распределение , что с вероятностью 1 будет выполняться неравенство

.

Доказательство. Выберем любое целое число , превышающее . Поскольку , можно указать  точек

так, что события  индуцируют на этой последовательности все подпоследовательности. Обозначим через  конечное множество, состоящее из точек .

Определим распределение  следующим образом: распределение  сосредоточено в точках , причем все они равновероятны; иными словами,

.

Пусть теперь дана выборка . С вероятностью 1 эта выборка состоит лишь из элементов . Рассмотрим конечное множество , состоящее из всех тех точек множества , которые не вошли в выборку. Очевидно, что их число не меньше чем .

Поскольку

,

найдется событие , которое содержит все точки из множества  и ни одной из выборки . Это значит, что

и в то же время

.

В силу выбора числа , получаем

и, следовательно, с вероятностью 1

.

 

1
Оглавление
email@scask.ru