§ 7. Мартингалы в широком смысле

Мартингалы (в широком смысле) были определены в § 7 гл. II как процессы, в которых случайные величины имеют конечные вторые моменты, и при любых с вероятностью 1

для любого целого положительного числа Это соотношение верно тогда и только тогда, когда ортогонально к при так как эти произвольны, то должно быть ортогонально к каждому Другими словами, (7.1) эквивалентно условию: с вероятностью 1

каково бы ни было В настоящем параграфэ мы будем предполагать, что пробегает множество всех целых чисел или некоторое подмножество этого множества; иногда в это множество будут включаться и

значения Если целые положительные числа, то (7.1) принимает вид

Заметим, что определяющие мартингал свойства (7.1) и (7.1) лишены смысла, если область значений не является упорядоченным множеством, и что любое подмножество множества случайных величин, образующих мартингал (упорядоченное так же, как и первоначально), снова образует мартингал.

Теорема 7.1. Если случайные величины образуют мартингал (в широком смысле), то при

причем равенство здесь имеет место только тогда, когда с вероятностью 1.

Действительно, в соответствии с определением мартингала ортогонально к так что

причем равенство имеет место только тогда, когда с вероятностью 1.

Если случайные величины образуют мартингал и если положить

то в силу определения мартингала величины будут взаимно ортогональны, и

Обратно, если — любые взаимно ортогональные случайные величины и если то процесс оказывается мартингалом в широком смысле.

Может показаться поэтому, что понятие мартингалов в широком смысле не заслуживает особого внимания, так как они являются просто частными суммами ряда из ортогональных случайных величин. Однако естественность, с которой это понятие возникает при рассмотрении гильбертова пространства, и ясность, которую оно вносит в изучение задачи о приближения по методу наименьших квадратов (гл. XII) и в изучение мартингалов в узком смысле (гл. VII), делают все же полезным краткое изложение их свойств. Наиболее интересным является случай непрерывного параметра

Теорема 7.2. Пусть -случайные величины, образующие мартингал (в широком смысле). Тогда

Если то существует и случайные величины образуют мартингал (в широком смысле).

Вариантом (в узком смысле) этой теоремы являются утверждения теоремы 4.1 гл. VII. Чтобы доказать приведенную теорему, достаточно заметить, что если выражено, как выше, через ортогональные величины то

Следовательно (теорема 4.1), если то существует Чтобы доказать последнее утверждение теоремы, мы должны показать, что ортогонально к при Разности обладают этим свойством, и при мы получаем искомый результат.

Теорема 7.3. Пусть случайные ветчины, образующие мартингал (в широком смысле), замкнутое линейное многообразие, порожденное величинами Тогда

и случайные величины образуют мартингал (в широком смысле).

Вариантом (в узком смысле) этой теоремы является теорема 4.2 гл. VII. Пусть Тогда величины взаимно ортогональны и (см. теорему 4.1) существование предела в среднем будет вытекать из сходимости ряда А эта сходимость следует из соотношения

Чтобы показать, что является проекцией величины на заметим, что эта проекция характеризуется двумя своими свойствами: она входит в (в нашем случае это выполнено, так как содержится в каждом ортогонально к Чтобы показать, что ортогонально к достаточно заметить, что ортогонально к а следовательно, и к переход к пределу при дает искомый результат. (Конечно, при любом к.) Для доказательства последнего утверждения теоремы достаточно показать, что если то с вероятностью 1

т. е. что ортогонально к Но по предположению ортогонально к случайным величинам а значит и к порожденному ими замкнутому линейному многообразию куда входит На этом доказательство теоремы заканчивается.

Теорема 7.3 показывает, что если случайные величины образуют мартингал (в широком смысле), то они могут быть всегда записаны в виде

где величины взаимно ортогональны, и ряд сходятся в среднем. Действительно, мы можем положить

Обратно, любые суммы такого вида определяют мартингал (в широком смысле).

Теорема 7.4. Пусть случайная величина с конечным вторым моментом и последовательность замкнутых линейных многообразий случайных величин. Пусть, далее, и

замкнутое линейное многообразие, порожденное случайными величинами, входящими в Тогда случайные величины

образуют мартингал (в широком смысле) и с вероятностью 1

Положим

Тогда случайная величина входит в и при ортогонально к а следовательно, и к любому Другими словами, с вероятностью 1

т. е. величины образуют мартингал в широком смысле. По теореме 7.3 существует первый из пределов (7.6). Чтобы показать, что этот предел х совпадает с проекцией заметим, что прозкция характеризуется двумя своими свойствами: она входит в (в нашем случае это выполнено, так как ортогонально к (в нашем случае это выполнено, так как ортогонально к а следовательно, и к значит, и ортогонально к Тем самым первое из равенств (7.6) доказано. Чтобы доказать второе, заметим, что по теореме 7.1

так что в силу теоремы 7.2 существует второй из пределов (7.6). Легко показать точно так же, как и в случае первого соотношения, что этот предел обладает свойствами, характеризующими проекцию

Следствие 1. Пусть любые случайные величины с конечными вторыми моментами. Тогда, если замкнутое линейное многообразие, порожденное величинами то с вероятностью 1

В частности, если случайная величина входит в замкнутое линейное многообразие, порожденное величинами то второй из пределов можно заменить на

Чтобы свести первоэ из этих равенств к первому из равенств (7.6), отождествим с Чтобы свести второе равенство ко второму из равенств (7.6), отождествим с из (7.6) замкнутое линейное многообразие, порожденное величинами

Вариантами (в узком смысле) теоремы 7.4 и ее следствия служат теорема 4.3 гл. VII и ее следствие. Проведенное в этом параграфе изучение проекций является на самом деле изучением одного из вопросов геометрии гильбертова пространства. Так как мы уже получили все результаты, которые будут использоваться в дальнейшем, то мы закончим на этом наше изучение.

Соотношения (7.6) являются очень важными. Пусть, например, входит в замкнутоз линейное многообразие, порожденное величинами Тогда

из (7.6) следует, что если аппроксимировать в смысле наименьших квадратов величину линейными комбинациями величин то средний квадрат ошибки будет стремиться к при

В качестве поучительного примера применим (7.6) к одному очень специальному случаю. Предположим, что ортонормированяая последовательность случайных величин. Мы применим (7.6), произведя следующие отождествления:

При таком определении замкнутое линейное многообразие порожденное величинами совпадает с замкнутым линейным многообразием, порожденным случайными величинами Эти случайные величины взаимно ортогональны, так что любая случайная величина из может быть записана в виде

где ряд сходится в среднем. Если какая-либо случайная величина входит в то она входит в каждое так что для нее при всех а это несовместимо со сходимостью ряда если только а. не равны нулю. Другими словами, содержит только нулевую случайную величину. Мы получаем, следовательно, из (7.6), что

Далее,

так как величины ортогональны к и их можно поэтому игнорировать при вычислении проекции. Наконец, из соображений симметрии

Эту проекцию можно было бы, конечно, найти также простым вычислением соответствующих коэффициентов Фурье. Из последнего соотношения и из (7.7) мы получаем, что

— результат, в котором мало удивительного, так как

а предельное соотношение утверждает просто, что математическое ожидание квадрата среднего стремится к при Такое кажущееся несколько нелепым доказательство тривиального случая закона больших чисел было дано по двум причинам. Во-первых, оно иллюстрирует приложения предельной теоремы, доказанной в этом разделе. Во-вторых, вариант этого результата (в узком смысле) является важной и нетривиальной теоремой (теорема 5.1 гл. III). Эта теорема представляет собой важный частный случай усиленного закона больших чисел для стацпонарных (в узком смысле) процессов, доказательством которого может служить вариант (в узком смысле) только что проведенного доказательства (см. § 6 гл. VII).