Главная > Стохастическая аппроксимация
НАПИШУ ВСЁ ЧТО ЗАДАЛИ
СЕКРЕТНЫЙ БОТ В ТЕЛЕГЕ
<< Предыдущий параграф Следующий параграф >>
Пред.
След.
Макеты страниц

Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше

Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике

ДЛЯ СТУДЕНТОВ И ШКОЛЬНИКОВ ЕСТЬ
ZADANIA.TO

3. Метод характеристических функций

Сакс [1] использовал метод характеристических функций и - доказал асимптотическую нормальность.

Теорема 2 (Сакс). Пусть последовательность положительных чисел, такая, что

Пусть фиксированное число или произвольная случайная величина с

и последовательность, определенная рекуррентным соотношением

где случайная величина, условное распределение которой при данных совпадает с распределением Пусть где предположим, что а имеет единственное решение для каждого действительного а. Таким образом, соотношение (2) превращается в

для всех х, и условное распределение при данных совпадает с распределением Заметим, что следствием этого является

с вероятностью единица. Сделаем следующие предположения.

(i) М является функцией, измеримой по Борелк и

(ii) Для некоторых положительных констант и для всех х

(iii) Для всех х

где при и где

Пусть для где А таково, что Тогда является асимптотически нормально распределенной величиной со средним нуль и дисперсией

Доказательство. Без ограничения общности положим и для сокращения обозначений вместо будем использовать символы соответственно. Применяя условия (iii) и (3), получаем

Пусть для для где Итерируя (5), приходим к равенству

Пусть

В силу леммы 15 приложения 3

Поэтому доказательство того, что асимптотически нормальна со средним нуль и дисперсией эквивалентно доказательству асимптотической нормальности со средним нуль и дисперсией Мы должны показать, что

Пусть в лемме 12 приложения для всех Тогда из этой леммы вытекает, что (7) имеет место. Для доказательства соотношения (9) обратимся к теореме 6 приложения 2 при

Чтобы убедиться в том, что мы имеем право так сделать, заметим, что в силу (4)

Пусть если и в противном случае. Для проверки выполнения условия теоремы 6 приложения 2 мы должны доказать, что

а это равносильно тому, что

В силу леммы 12 приложения 3 и задачи 1 приложения 3 из следует, что для некоторого

Применяя предположение можно получить следующее:

где

Так как то применяя лемму 13 приложения 3 с для всех и используя (11), устанавливаем, что справедливо (10). Проверка условия (1) теоремы 6 приложения 2 эквивалентна доказательству того, что

где означает условное математическое ожидание при условии, которое обозначается в теореме 6 приложения 2 через Используя снова лемму 13

приложения 3, получаем, что достаточно доказать соотношение

справедливость которого вытекает из следующих соображений. Выражение под знаком абсолютной величины равномерно ограничено в силу условия так что применима теорема Лебега. Кроме того, согласно условию и в силу сходимости к 0 с вероятностью единица, имеем

Результат (14) и лемма 13 приложения 3 показывают также, что выполняется условие (2) теоремы 6 приложения 2 с

где

Тем самым завершается проверка применимости теоремы 6 приложения 2 и устанавливается справедливость утверждения (9). Чтобы доказать (8), возведем обе части соотношения (3) в квадрат и используем, условие Мы получим, что

Тогда в силу для достаточно малого такого, что и для достаточно большого скажем

Пусть и пусть определено, как и выше, с Выберем достаточно большим, чтобы (это гарантирует выполнение неравенства

для так может иметь место). Итерирование (17) дает

а это является требуемой оценкой.

Пусть Так как то для этих значений можно найти такое, что

Как отмечалось выше, с вероятностью единица, и потому можно выбрать так, чтобы

Пусть и таково, что а Тогда, обозначая через через и используя соотношения (20), (19), (18), неравенство Ляпунова и задачу 1 приложения 3, имеем для

где подходящие константы.

Оценка (21) вместе с тем фактом, что при для любого фиксированного устанавливает справедливость утверждения (8) и завершает доказательство теоремы.

Теорема 3 (Сакс). Предположим, что выполняются условия теоремы 2 и предположения (i), (iii), (iv) и (v). Заменим (ii) следующим предположением:

(И) для всех х и некоторой положительной константы

и для любых таких, что

Пусть где А таково, что Тогда величина распределена асимптотически нормально со средним нуль и дисперсией

Доказательство. Без ограничения общности положим Пусть таково, что и пусть Тогда можно найти такое, что для

Положим

Так как из следует, что с вероятностью единица, то можно найти такое, что для

Пусть Определим с помощью рекуррентного соотношения

Очевидно, что предположения теоремы 2 вместе с условием (1) показывают, что теорема 6 приложения 2 применима к Поэтому для всех у

где функция нормального распределения со средним нуль и дисперсией Из соотношений (2) и (4) следует результат теоремы.

Теперь обсудим результат Фабиана.

Предварительные замечания. В последующем будет обозначать вероятностное пространство; соотношения между случайными величинами, векторами и матрицами и их сходимость, если не оговорено противное, мы будем понимать с вероятностью единица.

Будем писать если асимптотически -распределено, и для двух последовательностей случайных векторов, если для любого 2 тогда и только тогда, когда

Индикатор (характеристическая функция) функции на множестве А будет обозначаться через математическое ожидание и условное математическое ожидание — через Пространство есть -мерное евклидово пространство, элементы которого рассматриваются как вектор-столбцы, есть пространство всех действительных -матриц. Символами. обозначаются множества всех измеримых, преобразований из соответственно. Единичная матрица в обозначается через — это евклидова норма. Для последовательности чисел символы о обозначают последовательности элементов одного из множеств такие, что для и всех равномерно на множестве вероятности единица, для и всех . В особых случаях может быть константой на и рассматриваться как последовательность элементов из или Аналогичные определения можно дать и в других случаях

Теорема 4 (Фабиан). Предположим, что к — целое положительное число, неубывающая

последовательностьч -полей, Пусть

матрица положительно определена; ортогональна, а диагональна. Предположим, что являются -измеримыми,

а для каждого

либо

Предположим также, что для если если ,

и

Тогда асимптотическое распределение вектора является нормальным со средним и матрицей ковариации РМР где

Доказательство. Пусть нормально распределенный вектор со средним и матрицей ковариации

Сначала покажем, что можно без ограничения общности предположить следующее:

Если мы положим то снова будет удовлетворять предположениям теоремы, но и если теорема окажется справедливой, то для мы получим

откуда следует, что

Поэтому можно положить Заметим теперь, что и мы должны доказать, что но удовлетворяет соотношению (6) с а удовлетворяет соотношению

затем легко проверить, что и теорема будет справедлива, если она окажется верной для Теперь для любого в силу теоремы Егорова можно изменить на множестве вероятности не более и получить сходящиеся равномерно на к своим пределам (последнее верно, если только Можно сделать это так, чтобы оставались -измеримыми, и определить тогда равенством (6) с подставленными вместо Если теперь теорема имеет место при равномерной сходимости то мы получим так как было выбрано произвольно, а

Итак, можно предполагать, что равномерно и Если равномерно, то можно заменить на на I без изменения без нарушения соотношений (2), (3), (4) и -измеримости Далее, допустим, что

определяется равенством (6), в правую часть которого вместо подставляется кроме того, вычитается Если теперь мы получаем

Если то из задачи 5 приложения 3 следует, что таким образом, можно положить Далее положим ; мы можем взять в (9) математические ожидания и, так как получим можно предполагать, что Теперь, полагая мы получим из (9), что а из соотношения, предшествующего (9), что Последний член есть и покоординатное применение результата задачи 5 приложения 3 дает Поэтому тогда и только тогда, когда удовлетворяет всем условиям теоремы при Поэтому мы можем считать соотношения (8) выполненными.

Мы имеем, теперь и в силу Отсюда

и из задачи 5 приложения 3 следует, что Полагая затем мы получим неравенство (9) для а также соотношения Кроме того, можно считать тогда

Отсюда в силу условия (2) получаем

и покоординатное применение результата задачи 5 приложения 3 дает

На следующем этапе нам потребуется следующее стандартное, соотношение (см., например, Феллер [2], доказательство теоремы 1 гл. XV, § 6). Если то Ясно, что мы можем выбрать последовательность так, чтобы выполнялись соотношения (3) и (4), если вместо подставить Для получаем

Отсюда, ограничиваясь рассмотрением фиксированного шара

и замечая, что из (2) следует соотношение получаем 4

где

так что либо либо и

Теперь положим Тогда перегруппировка членов в (11) и -измеримость дают

Соотношение имеет место при для Если оно выполняется для то в силу неравенства

оно имеет место также при и для Для достаточно больших имеем можно положить тогда равным Из результатов задач 4 и 5 приложения 3 теперь следует, что Так как было произвольным, то

Доказательство будет полностью закончено, если покажем, что сходится к характеристической функции соответствующей Предположим, что независимы и -распределены. Тогда является нормальным для любого в силу уже доказанного, и, таким образом,

1
Оглавление
email@scask.ru