§ 3. Корреляционная функция стационарного вероятностного процесса; примеры

В этом и последующих параграфах мы будем рассматривать стационарные в широком смысле процессы причем особое внимание будет уделено гармоническому анализу таких процессов. Перенос этих результатов на случай, когда параметр принимает только значения будет обычно очевидным.

Известно, что в исследованиях по гармоническому анализу удобнее иметь дело с действительными функциями и рядами вида

чем с действительными функциями и рядами вида

По этой причине мы будем сперва рассматривать комплексные процессы, а результаты, относящиеся к действительным процессам, будем получать затем как частные случаи.

Корреляционная функция, определяемая равенством

играет основную роль в теории стационарных в широком смысле процессов. Следующая теорема описывает класс всевозможных корреляционных функций.

Теорема 3.1. Корреляционная функция является положительно определенной функцией, т. е.

для любой совокупности комплексных чисел Обратно, каждая функция удовлетворяющая условиям (3.1), является корреляционной функцией некоторого стационарного (в широком смысле) вероятностного процесса, который можно выбрать действительным, если функция действительна.

В § 3 гл. II были найдены необходимые и достаточные условия того, чтобы функция была корреляционной функцией некоторого процесса, т. е. чтобы выполнялось равенство В рассматриваемом здесь случае эти условия превращаются в условия (3.1). Следующая теорема описывает класс положительно определенных функции как некоторый класс преобразований Фурье.

Теорема 3.2. Функция является положительно определенной тогда а только тогда, когда она может быть представлена в виде

где функция (определенная при является монотонно неубывающей, функция однозначно определяется (при соответствующей нормировке) соотношениями

Если действительная функция, то (3.2) можно заменить на

где функция (определенная при является монотонно неубывающей финкцией и однозначно определяется (при подходящей нормировке) соотношениями

Если функция определяется равенством (3.2), то и

Обозначая через коэффициент при в правой части (3.3), будем иметь

где

с тем исключением, что при мы принимаем при мы принимаем и при мы принимаем

Таким образом, есть коэффициент Фурье функции Ряд Фурье функции сходится к самой этой функции, и частные суммы этого ряда (где под частной суммой понимается 2) являются равномерно ограниченными. Используя этот факт, мы находим, что

откуда и вытекает (3.3).

Обратно, предположим теперь, что положительно определенная функция. Тогда, полагая в мы получаем

Это равенство представляет в виде суммы конечного ряда Фурье; используя обычную формулу для коэффициенте в такого ряда, имеем

Заметим теперь, что монотонная функция, обращающаяся в при —1/2 и равная при Следовательно, согласно теореме Хелли, существует сходящаяся подпоследовательность последовательности т. е. существует последовательность значений (скажем, которой и при Полагая по этой последовательности, мы видим, что из (3.4) следует (3.2). Тем самым мы доказали нашу теорему для комплексного случая. Если нормировать условиями

причем скачок из точки —1/2 (если такой имеется) переносится в точку то функция будет однозначно определяться равенством (3.3). Предположим теперь, в частности, что действительная функция. В таком случае будет четной функцией, и, замечая, что замене в равенстве на мы получим вместо величину можно вывести из однозначности определения соответствующей нормировке), что

Следовательно, если при любом выборе определить функцию равенством

то будет выполняться (3.2). Обратно, еслп задана функция для которой выполняется (3.2), то всегда можно найти функцию для которой верно

(3.2); достаточно положить для этого

При этом (3.3) будет следовать из (3.3). Если функция нормирована условиями

то эта функция будет определяться равенством (3.3) однозначно.

Если функция абсолютно непрерывна, т. е. если она является неопределенным интегралом от своей производной, то говорят, что процесс имеет спектральную плотность, а функцию называют спектральной плотностью процесса (в комплексной форме). Если процесс является действительным, то функция будет абсолютно непрерывной тогда и только тогда, когда этим же свойством обладает функция в этом случае называется спектральной плотностью процесса (в действительной форме). Сама функция во всех случаях называется спектральной функцией (или спектральной функцией распределения) соответствующего процесса.

Если ряд сходится, то очевидно, существует непрерывная спектральная плотность, задаваемая равенством

в действительном случае (3.5) сводится к равенству

Действительно, при наложенном только что ограничении на корреляционную функцию ряды (3.5) и (3.5) могут быть почленно проинтегрированы, после чего мы сразу получаем (3.3) или (3.3).

Спектр процесса состоит из тех чисел в окрестности которых функция строго возрастает в том смысле, что для любого

Иначе говоря, спектр состопт тех частот, которые действительно входят в спектральное разложение функции даваемое равенствами (3.2) и (3.3), и, как мы увидим ниже, в спектральное разложение выборочных функций самого процесса. В частности, если спектр содержит только конечное или счетное множество значении X, то является ступенчатой функцией, причем скачкп ее совпадают с точкамп спектра.

Пример 1. Предположим, что случайные величины взаимно ортогональны и для всех Такой процесс стационарен в широком смысле и для него

т. е. все частоты здесь одинаково существенны.

Пример 2. Пусть процесс марковский в широком смысле и стационарный в широком смысле. Тогда (см. § 8 гл. V)

Если

так что с вероятностью 1

и, наоборот, любая последовательность случайных величин, удовлетворяющих этим соотношениям, очевидно, образует марковский (в широком смысле) и стационарный (в широком смысле) вероятностный процесс. Если то, вообще говоря, сразу не очевидно, что соответствующая функция будет положительно определенной. Предположив на мгновение, что это так, мы получим в силу (3.5), что соответствующая спектральная плотность равна

Полученная функция от X, очевидно, неотрицательна и интегрируема, т. е. действительно является спектральной плотностью некоторого процесса. Соответствующая корреляционная функция определяется из (3.2); ясно, что она будет совпадать с исходной функцией что и доказывает законность сделанного выше предположения. Другой метод доказательства состоит в явном построении процесса, обладающего требуемыми свойствами. Например, если ортонормированная последовательность случайных величин и определяется равенством

то процесс как легко убедиться, оказывается марковским и стационарным (и то, и другое в широком смысле), и для него

Пример 3. Пусть — взаимно ортогональные случайные величины с

и действительные числа. Положим

Тогда математическое ожидание

не зависит от так что процесс будет стационарен в широком смысле. Поскольку к каждому из можно прибавить произвольное целое число, не меняя величин то без ограничения общности можно считать, что помимо того, можно предполагать, что все различны. При этих предположениях спектральная функция процесса будет ступенчатой функцией с разрывами в точках (т. е. спектр будет состоять только из этих к точек), причем скачок функции в точке

будет равен Действительный процесс, соответствующий рассмотренному комплексному процессу, может быть определен следующим образом. Пусть - взаимно ортогональные действительные случайные величины с

и действительные числа. Определим случайные величины при помощи соотношения

Тогда

не зависит от так что процесс стационарен в широком смысле. Как и в комплексном случае, можно предположить, что

помимо того, мы можем теперь еще более ограничить значения заменив все отрицательные на и изменив для компенсации одновременно знаки при соответствующих Таким образом, не ограничивая общности, можно считать, что

и что все различны. При этих предположениях функция будет ступенчатой функцией, возрастающей на величины а) в точках ; иными словами, спектр процесса (в действительной форме) будет состоять из к точек (соответствующая комплексная форма спектра будет содержать или пли точек; если то функция будет иметь скачок, равный в точках а если в этой точке она будет иметь скачок, равный Ясно, что комплексный вариант примера 3 сводится к действительному при соответствующем выборе чисел случайных величин

В частном случае, когда случайные величины распределены по нормальному закону и

процесс будет стационарным в узком смысле.

Ниже будет показано, что любой стационарный (в широком смысле) вероятностный процесс или совпадает с процессом примера 3, или же может быть сколь угодно точно аппроксимирован подобным процессом. Отсюда понятно, что гармонический анализ стационарных процессов должен играть весьма существенную роль при их изучении.

Пример 4. Пусть произвольная действительная случайная величина, такая, что — некоторая постоянная. Определим случайные величины при помощи соотношения

Тогда

где функция распределения величины с. Процесс стационарен в широком смысле, и его спектральной функцией (в комплексной форме) является функция Этот пример показывает, что существуют стационарные (в широком смысле) процессы, имеющие произвольную наперед заданную спектральную функцию. Заметим, что все выборочные функции процесса в этом случае являются периодическими (точнее говоря, они становятся периодическими, если продолжить область значений параметра на всю совокупность действительных чисел), в то время как в примере 3 это не так, если только исключением некоторых весьма специальных случаев). Отсюда ясно, что спектральная функция процесса не определяет еще спектрального разложения индивидуальных выборочных функций процесса (хотя, конечно, она может определять его в некотором осредненном смысле).

Действительный пример, аналогичный нашему примеру 4, строится следующим образом. Пусть действительные взаимно независимые случайные величины, такие, что распределено равномерно в интервале от —1/2 до 1/2; пусть, далее, с — действительная постоянная. Определим соотношением

Тогда

где функция распределения величины у. Процесс оказывается стационарным в широком смысле и имеет своей спектральной функцией (в действительной форме) функцию

В этом последнем примере выборочные функции являются элементарными тригонометрическими функциями; «случайность» процесса заключается только в возможности разными способами выбирать значения частоты и фазы полностью определяющие выборочную функцию. В общем случае случайной является вся выборочная последовательность, т. е. значения можно выбирать многими способами в соответствии с их индивидуальными и совместными распределениями вероятностей. С первого; взгляда может показаться, что степень «случайности» в примере 4 меньше, чем в общем случае, поскольку здесь выбор значений только двух случайных величин и полностью определяет всю выборочную последовательность на самом деле, однако, это впечатление ошибочно. Действительно, в наиболее общем случае задание выборочной последовательности равносильно заданию значения некоторой одной случайной величины, поскольку бесконечномерное пространство можно отобразить на одномерное таким образом, чтобы все случайные величины х, стали функциями от одной случайной величины при этом выбор значения величины х будет автоматически определять значения всех Это обстоятельство стоит обсудить более подробно, поскольку, оно часто приводит к недоразумениям. С нашей общей точки зрения вероятности выборочных последовательностей являются вероятностями в некотором пространстве точек так что выбор одной индивидуальной последовательностп означает выбор определенной точки в пространстве 2; тот факт, что после того, как все величины выбраны в соответствии с отвечающими им распределениями вероятностей, величина может оказаться, а может и не оказаться однозначно определенной функцией от выбранпых ранее значении, ничего здесь не меняет. В этом отношении поучителен следующий пример. Пусть пространство совпадает с интервалом [0,1] на действительной оси, а вероятностная мера есть мера Лебега на этом интервале.

Рассмотрим в качестве х координату точки этого интервала. Мы можем тогда записать

где в правой части стоит десятичное разложение числа Если теперь положить

то будут однозначными функциями от х (если пренебречь некоторыми рациональными значениями со, имеющими в совокупности вероятность 0). При этом величины будут взаимно независимыми случайными величинами, для которых

Таким образом, выбор значений величин с одной точки зрения эквивалентен осуществлению бесконечного числа выборов (например, при помощи бесконечного числа бросаний десятигранной кости); с другой точки зрения все однозначна определяются выбором значения единственной случайной величины х.

Пример 5. Пусть случайные величины определяются равенством

где процесс с ортогональными приращениями, у которого

Тогда (см. § 2 гл. IX)

т. е. это математическое ожидание не зависит от так что пропесс стационарен в широком смысле и имеет корреляционную функцию и спектральную функцию В § 4 будет показано, что каждый стационарный (в широком смысле) процесс может быть представлен в такой форме, и что в действительном случае это представление может быть переписано такжев виде

где в и действительные процессы с ортогональными приращениями, такие, что

Здесь спектральная функция процесса (в действительной форме), а последнее равенство является символической записью того обстоятельства, что каждое из приращений процесса ортогонально каждому приращений процесса Рассмотренный выше пример 3 является частным случаем этого последнего примера, отвечающим ступенчатой фувкции (т. е. случаю, когда спектр процесса состоит из конечного числа точек).

Представление рассмотренное в последнем примере, называется спектральным представлением процесса (соответственно в комплексной или в действительной форме).