§ 3. Корреляционная функция стационарного процесса; примеры
В этом и последующих параграфах мы будем рассматривать стационарные в широком смысле комплексные процессы
определение которых было дано в § 8 гл. II; основное внимание будет уделено гармоническому анализу таких процессов. Поскольку большинство теорем является точным аналогом соответствующих теорем для случая дискретного параметра, подробности часто будут опускаться. При этом мы примем одну дополнительную гипотезу: мы будем предполагать, что
В силу § 2 гл. II из этой гипотезы непрерывности вытекает, что процесс
имеет сепарабельпую и измеримую стандартную модификацию. Напомним, что переход от первоначального процесса к его стандартной модификации не изменяет совместных распределений вероятностей для конечных
совокупностей величин
Можно показать, что и обратно, если процесс
имеет измеримую стандартную модификацию, то выполнено (3.1). Таким образом, условие (3.1) является минимальной гипотезой непрерывности, и при рассмотрении стационарных в широком смысле процессов мы всегда будем предполагать, что это условие выполняется. Множеством значений параметра процесса
мы всегда будем считать либо всю прямую
либо полупрямую
Если процесс измерим, то, как мы видели в § 2 гл. II, почти все его выборочные функции измеримы по Лебегу. Если же процесс стационарен в широком смысле и одновременно измерим, то квадраты его выборочных функций почти все интегрируемы по Лебегу на любом конечном интервале; это следует из теоремы 2.7 гл. II, так как тогда
Корреляционная функция стационарного в широком смысле процесса определяется равенством
Следующая теорема описывает класс всех корреляционных функций.
Теорема 3.1. Если выполнено условие (3.1), то корреляционная функция
является положительно определенной функцией, т. е. непрерывной функцией, такой, что
для любой конечной совокупности значений параметра
и любых комплексных чисел
Обратно, любая функция
удовлетворяющая этим условиям
непрерывная при
обязательно непрерывна всюду и является корреляционной функцией некоторого стационарного в щироком смысле процесса. Если эта функция
действительна, то и соответствующий процесс может быть выбран действительным.
Непрерывность корреляционной функции следует из неравенства
правая часть которого в силу (3.1) стремится к нулю при
В остальном доказательство аналогично доказательству теоремы 3.1 гл. X, и поэтому мы его опускаем.
Аналогом. теоремы 3.2 гл. X для случая непрерывного параметра является следующее предложение.
Теорема 3.2. Функция
является положительно определенной тогда и только тогда, когда она может быть представлена в виде
где
— монотонно неубывающая ограниченная функция. Функция
при соответствующей нормировке однозначно определяется соотношением
Если функция
действительна, то вместо (3.2) можно написать.
где
монотонно неубывающая ограниченная функция, однозначно определяемая (при соответствующей нормировке) равенством
Доказательство является просто переизложенпем доказательства теоремы 3.2 гл. X для случая непрерывного параметра и будет здесь поэтому только кратко намечено. То обстоятельство, что равенство (3.2) в случае монотонно неубывающей ограниченной функции
определяет положительно определенную функцию
легко проверяется непосредственно. Формула (3.3) есть просто известная формула Леви, выражающая функцию распределения через ее характеристическую функцию. С настоящей точки зрения наиболее естественным доказательством формулы Леви является следующее. Предположим, что
и определим функцию
равенством
Пусть
есть преобразование Фурье функции
т. е. пусть
Произведя обратное преобразование Фурье, получаем
где величина под знаком предела остается ограниченной. Используя этот факт, находим, что
это и есть нужное нам равенство (3.3).
Обратно, пусть
положительно определенная функция от
В таком случае можно использовать вывод представления
в виде интеграла Фурье—Стильтьеса, приведенный выше для случая дискретного параметра, соответственно видоизменив его; можно также непосредственно свестп случай непрерывного параметра к дискретному случаю при помощи следующего рассуждения. Для каждого
значения
определяют положительно определенную функцию от целого аргумента
Следовательно
(см. теорему 3.2 гл. X),
где
монотонно неубывающая функция, полное изменение которой равно
Пусть
стремится к нулю, пробегая значения
Согласно теореме Хелли, если мы доопределим
положив
при
при
то будет существовать бесконечная последовательность значений
для которой предел
существует при всех
Если законен предельный переход под знаком интеграла, то из выражения для
тогда будет следовать, что равенство (3.2) справедливо для всех
имеющих вид
где
произвольное целое,
произвольное положительное целое число; для остальных
оно будет справедливо по непрерывности. Для оправдания перехода к пределу под знаком интеграла достаточно показать, что равномерно
всем
из некоторой сходящейся к нулю последовательности значений
Но если
При
получаем отсюда
Следовательно,
Величина в правой части здесь не превосходи
; величина в левой части стремится к
при
Отсюда вытекает, что и величина справа равна
; но это есть просто другое выражение для условия (3.4) (включая равномерность). Тем самым мы полностью доказали все утверждения нашей
теоремы, относящиеся к случаю комплексной функции
. Если функция
нормирована условиями
то
однозначно определяется равенством (3.3). Как и в случае дискретного параметра, если
действительная функция, то
четно, и мы получаем (3.3) с функцией
равной
Функция
однозначно определяется равенством (3.3), если ее нормировать условиями
Если функция
абсолютно непрерывна, то ее производная
называется спектральной плотностью процесса (в комплексной форме), в действительном случае функция
абсолютно непрерывна тогда и только тогда, когда абсолютно непрерывна функция
в этом случае производная
называется спектральной плотностью процесса (в действительной форме). Выражение «спектральная плотность» всегда будет подразумевать, что в рассматриваемом случае спектральная функция абсолютно непрерывна.
Если
то существует непрерывная спектральная плотность, задаваемая равенством
в действительном случае это равенство сводится к
В самом деле, при сделанном ограничении на корреляционную функцию равенства (3.5) и (3.5) можно проинтегрировать, после чего они переходят в (3.3) и (3.3).
Спектр процесса, как и в случае дискретного параметра, состоит из тех чисел
в окрестности которых функция
возрастает. Эти числа совпадают с частотами, входящими в гармоническое разложение как корреляционной функции, так и самих выборочных функций процесса.
Пример 1. Предположим, что случайные величины процесса удовлетворяют условию
Тогда процесс
стационарен в широком смысле и для него
Отсюда видно, что этот пример относится к числу тех, которые исключаются гипотезой непрерывности (3.1).
Пример 2. Предположим, что процесс
марковский в широком смысле и одновременно стационарный в широком смысле. Тогда (см. § 8 гл. V)
Если
и, следовательно (см. пример 2 из § 3 гл. X), при каждом
с вероятностью 1
Обратно, любое семейство случайных величин, удовлетворяющих последнему соотношению, очевидно, образует марковский (в широком смысле) и стационарный (в широком смысле) вероятностный процесс. Если а
то, допустив на мгновение, что
действительно является корреляционной функцией, т. е. что эта функция положительно определенна, найдем, что для нее должна существовать спектральная плотность, которая в силу (3.5) равна
Так как эта функция от X неотрицательна и интегрируема, то она и на самом деле является спектральной плотностью стационарного процесса; соответствующая корреляционная функция, определяемая соотношением (3.2), очевидно, совпадает с исходной функцией
что и подтверждает законность сделанного нами допущения. Заметим еще, что если
процесс с ортогональными приращениями такой, что
и с — постоянная с положительной действительной частью, то корреляционной функцией процесса
определенного равенством
будет функция, пропорциональная
В § 8 будет показано, что вообще любой стационарный (в широком смысле) и марковский (в широком смысле) вероятностный процесс, за исключением процесса, которому отвечает значение
может быть представлен (с точностью до постоянного множителя) в такой интегральной форме.
В частности, если процесс
действительный, то
и
Пример 3. Пусть
взаимно ортогональные случайные величины с
различные между собой действительные числа; определим процесс
равенством
Тогда математическое ожидание
не зависит от
так что процесс
стационарен в широком смысле. Спектр этого процесса состоит только из точек
причем в точке
спектральная функция претерпевает скачок величины с). Обратно, если корреляционная функция
дается последней формулой, то, как будет доказано ниже, процесс
всегда представим в указанном здесь виде. Действительный процесс, соответствующий рассмотренному комплексному процессу, строится следующим образом. Пусть
действительные взаимно ортогональные случайные величины с
и
любые действительные числа. Определим
равенством
Тогда математическое ожидание
не зависит от
так что процесс
стационарен в широком смысле. Ясно, что любое отрицательное
можно заменить на
изменив одновременно знак у соответствующего
Поэтому, не ограничивая общности, можно считать, что
(и что все различны). При этих условиях соответствующая спектральная функция (в действительной форме) будет ступенчатой функцией со скачками величины
в точках
Спектральная функция в комплексной форме будет возрастать в точках
скачком с
в точке
если
и скачками
в точках
если
Рассматриваемый действительный процесс, разумеется, легко может быть получен из комплексной формы примера 3 соответствующим выбором чисел
и случайных величин
В частном случае, когда величины и, и
гауссовские с
процесс
стационарен и в узком смысле.
Ниже будет показано, что любой стационарный в широком смысле процесс или является процессом, подобным рассмотренному в примере 3, или же может быть сколь угодно точно аппроксимирован процессами такого типа.
Пример 4. Пусть
действительная случайная величина, и а — произвольная постоянная. Определим
равенством
Тогда
где
функция распределения величины Отсюда видно, что процесс
стационарен в широком смысле и имеет спектральную функцию
Этот пример показывает, что существуют стационарные в широком смысле процессы с любой наперед заданной спектральной функцией. Заметим, что все выборочные функции процесса в данном примере являются периодическими функциями; выбор какой-либо из них просто сводится к выбору некоторого значения частоты Так как мы уже видели, что выборочные функции стационарного процесса не должны обязательно быть периодическими (см. предыдущий пример 3), то, стало быть, спектральная функция процесса не определяет однозначно спектральное строение индивидуальных выборочных функций (разве только в каком-либо осредненном смысле). Это утверждение, разумеется, может оказаться неверным в применении к отдельным специальным классам стационарных процессов. Так, например, если ограничиться рассмотрением действительных гауссовских процессов с
то спектральная функция процесса, однозначно определяющая корреляционную функцию, будет однозначно определять и все совместные распределения вероятностей для произвольных конечных совокупностей величин
Из рассмотрений примера 4 § 3 гл. X ясно, каким будет действительный процесс, соответствующий нашему комплексному примеру, и мы не станем задерживаться на этом вопросе. Дальнейшие замечания о «степени случайности» процесса, сделанные при изучении процессов с дискретным параметром, также применимы к настоящему случаю. Пример 5. Пусть
определяется равенством
где процесс
имеет ортогональные приращения и
Тогда
т. е. процесс
при любом фиксированном
стационарен в широком смысле и имеет корреляционную функцию, даваемую последней формулой; отсюда видно, что его спектральная плотность существует и равна
При малом
эта спектральная плотность очень близка к
Иными словами, хотя
и не сходится к предельной случайной величине при
но соответствующая спектральная функция при уменьшении
ведет себя так, как будто бы процесс
существует и является стационарным процессом с постоянной спектральной плотностью
В действительности никакого процесса с постоянной спектральной плотностью не существует, так как интеграл от спектральной плотности по всей прямой
должен быть конечен, но поведение
при малых
заставляет предположить, что во многих случаях, когда естественно вводить символическую производную
(например, при рассмотрении стохастических интегралов
изученных в гл. IX), этот «символический процесс»
с точки зрения гармонического анализа будет проявлять себя, как обычный стационарный в широком смысле процесс с постоянной спектральной плотностью. Примеры такого рода нам еще встретятся ниже 1). Пример 6. Предположим, что процесс
определяется равенством
где
процесс с ортогональными приращениями, для которого
Тогда в силу результатов § 2 гл. IX математическое ожидание