И действительно, определение величин
как условных математических ожиданий, показывает, что последовательности
являются мартингалами. Следовательно (см. теорему 4.2), с вероятностью 1 существует предел
и (см. следствие 1 из теоремы 4.3) предел
Остается показать, что
Так как при каждом
величина
не зависит от величин
то (в силу закона нуля или единицы)
с вероятностью 1, а по теореме
так что
с вероятностью 1.
Заметим, что полученные результаты (и их доказательства) остаются в силе, если предположить только, что величины
независимы; предположение о том, что они имеют одинаковую функцию распределения (с постоянной плотностью), было принято лишь для того, чтобы упростить интегрг
обозначения.