ПРИЛОЖЕНИЕ ПЕРЕВОДЧИКОВ

Уже после появления английского издания книги Дуба вышли в свет несколько монографий, частично или полностью посвященных теории вероятностных процессов; материал этих монографий во многом дополняет содержание настоящей кндгп. Наиболее близкой из по стилю к книге Дуба является монография Лоэва [5, 1955], представляющая собой учебник повышенного типа по теории вероятностей, содержащий, наряду с развернутым изложением теоретико-множественных основ теории, обширный материал о различных классах вероятностных процессов с дискретным параметром. Более узкому кругу вопросов, а именно — марковским процессам с дискретным лараметром и с непрерывным параметром, но с дискретным множеством состояний, посвящена книга Сарыисакова [2. 1954]. Для читателей, интересующихся в первую очередь приложениями теории вероятностных процессов, предназначены книги Блан-Лапьера и Форте 11,1953] и Бартлета] 1,1955]. В первой из этих книг, по объему значительно превосходящей вторую, много внимания уделяется конкретным физическим и механическим приложениям теории; во второй книге содержится очень разнообразный материал (зачастую без полных доказательств), в подборе которого сказывается интерес автора к статистическим приложениям теории вероятностных процессов.

Следует также указать, что некоторые вопросы теории вероятностных процессов (в первую очередь — марковских и стационарных) изложены на русском языке в учебнике Гнеденко [5, 1954]; специально теории стационарных процессов посвящена большая обзорная статья Яглома [5,1952].

ГЛАВА II

Укажем следующую теорему Колмогорова (впервые опубликованную в работе Слуцкого [2, 1937]) об условиях непрерывности выборочных функций вероятностного процесса:

Теорема. Пусть сепарабельный вероятностный процесс. Если при некоторых имеет место неравенство

то почти все выборочные функции процесса являютсянепрерывными.

Приведем доказательство этой теоремы, принадлежащее Колмогорову.

Для простоты будем считать, что Из теоремы 2.2 гл. II вытекает, что в условиях теоремы совокупность двоично-рациональных чисел (т. е. чисел вида где целые, к удовлетворяет условиям определения сепарабельности. В соответствии с этим фактом для того, чтобы получить утверждение теоремы, достаточно показать, что для почти всех выборочные функции обладают следующим свойством: для любого найдется такое, что при где двоично-рациональные числа, имеет место неравенство Заметим теперь, что в соответствии с неравенством Чсбышева из условий теоремы вытекает неравенство

Отсюда следует, что

Правые части неравенства (I) являются членами сходящегося ряда и, зпачпт, в силу известной леммы Бореля—Кантелли (см. стр. 98) для почти каждого найдется число такое, что при и всех выполняются неравенства

Зададим теперь и выберем так, что и что

Положим Выберем двоично-рациональные точки такие, что Заметим, что отрезок вида всегда можно представить как сумму прилегающих друг к другу отрезков вида где целые числа, прпчем отрезки с любым фиксированным в этой сумме будут встречаться не более, чем дважды. Для всех этих отрезков значит,

Суммируя неравенства (II), находим

что и завершает доказательство теоремы.

Из этой теоремы, в частности, немедленно вытекает непрерывность выборочных функций пропесса брауновского движения (см. теорему 2.2 гл. VIII).

Недавно Ченцов [2, 1956] получил аналогичное условию Колмогорова условие, необходимое и достаточное для того, чтобы почти все выборочные функции процесса являлись ступенчатыми (определение ступенчатой функции см. на стр. 223). А именно, им доказан следующий результат:

Теорема. Пусть сепарабельный вероятностный процесс. Если для некоторых при любых выполняется неравенство

то почти выборочные функции процесса являются ступенчатыми.

Дальнейшее изучение процесса, описанного в дополнении автора к § 1 гл. II см. в работе Ченцова [1, 1956], где доказана, в частности, непрерывность соответствующих выборочных функпий (рассматриваемых как многомерные функции). См. также интересные работы Ито [5, 1951; 6, 1952] о функционалах от выборочных функций такого процесса.

Недавно Дынкин и Юшкевич [1, 1956] выделили важный класс однородных по времени (последнее ограничение не является существенным) марковских процессов, названных ими строго марковскими. Процесс называется строго марковским, если условие (6.17) гл. II выполняется также, когда -это случайная величина, «не зависящая от будущего», т. е. такая, что событие измеримо относительно выборочного пространства величин Дынкнн и Юшкевич показали, в частности, что того, чтобы марковский процесс был строго марковским, достаточно, чтобы почти все его выборочные функции были непрерывными справа и чтобы выполнялось следующее условие, названное авторами условием Феллера: для любой непрерывной функции функция

является непрерывной функцией от х (здесь переходные вероятности процесса). Из результатов, полученных Юшкевичем (работа находится в печатп), вытекает, что всякий однородный марковский стохастически непрерывный процесс со счетным числом состояний можно в определенном смысле считать строго марковским.

Остановимся еще на важном понятии обобшенного вероятностного пропссса (вероятностного распределения), введенном в работах Ито [7,1954] и Гельфанда [1, 1955] уже после появления книги Дуба. Вероятностный процесс определяется на стр. 48 настоящей книги каксемейство случайных величин величина х, называется при этом значением процесса в момент (или в точке Будем для определенности предполагать, что область Гйначенпй параметра процесса является интервалом (открытым пли замкнутым, конечным, полубесконечным или всей прямой — безразлично). Пусть К — пространство бесконечно дифференцируемых функций на каждая из которых равна нулю вне некоторого конечного замкнутого интервала (в случае, если само но является таким интервалом); топологию в К определим так же, как это сделано

в книге Шварца [1, 1950—1951] (см. также Гельфанд и Шилов [1, 195.3]. В таком случае для широкого класса вероятностных процессов х; (например, для всех процессов, непрерывных в среднем) мы можем сопоставить любой функции с случайную величину

(интеграл определяется, например, как предел по вероятности соответствующих интегральных сумм). Заметим, что с точки зрения физики случайные величины являются даже более естественным понятием, чем сами значения процесса в точке; в самом деле, если — это характеристика какого-либо реального физического процесса, то практически мы всегда будем иметь дело лишь с «измеренными значениями процесса», а любой измерительный прибор (который мы здесь предполагаем линейным) в силу своей инерционности определяет величину вида где некоторая функция, характеризующая этот прибор. Мы можем теперь вообще отказаться от рассмотрения значений а понимать под вероятностным процессом семейство случайных величии этой есть определение обобщенного вероятностного процесса, вполне аналогичное определению обобщенной функции. Сами значениях! для обобщенного процесса разумеется, могут и не существовать — типичным примером здесь является обобщенный процесс, называемый «белым шумом», о котором мы еще будем говорить в приложениях к гл. (см. стр. 585).

Остается еще уточнить, что подразумевается в нашем определении под заданием семейства величин (ср. §§ 1—2 гл. II, посвященные уточнению определения вероятностного процесса как семейства величия . В работе Гельфанда [1, 1955] семейство определяется заданием одномерных распределений вероятностей всех случайных величин При этом требуется, чтобы случайная величина х линейво зависела от функции и чтобы распределение вероятностей для удовлетворяло следующему условию стохастической непрерывности; для любых существует окрестность К функции такая, что

при работе Ито [7, 1954] рассмотрено лишь понятие «обобщенного вероятностного процесса в широком смысле» (ср. § 3), т. е. предполагается, что все величины х икеют конечные математические ожидания (которые, следуя мы для простоты даже положим равными нулю) и конечные дисперсии, и заданием процесса считается задание «корреляционного функционала» которыйпредполагается непрерывным (в смысле топологип в К) относительно Разумеется, понятие обобщенных вероятностных процессов следует изучить еще и с точки зрения отвечающей ему вероятностной меры в пространстве обычных (не вероятностных) обобщенных функций Шварца, подобно тому, как в § 2 изучаются меры в функциональном пространстве, отвечающие обычному (не обобщенному) вероятностному процессу однако такое изучение до сих пор еще не было проведено.

Основные применения понятия обобщенного вероятностного процесса, имеющиеся в работах Ито и Гельфанда, относятся к теории стационарных

процессов (и процессов со стационарными приращениями); см. по этому поводу приложении переводчиков к гл. X—XI. Здесь же мы только отметим, что, в противоречие со сказанным в начале § 4, для обобщенных вероятностных процессов вполне может быть построена содержательная теория процессов с независимыми значениями, зависящих от непрерывного параметра (см. по этому поводу работу И. М. Гельфанда [1, 1955]).

ГЛАВА III

До сих пор не нашел полнпго решения вопрос о необходимых достаточных: условиях для усиленного закона больших чисел (см. § 3) в случае разно распределенных независимых слагаемых; см. по этому поводу работу Прохорова [1, 1950] и обзорную статью Чжуна [1, 1951]. Предельные теоремы для сумм независимых слагаемых (см. § 4) в советской литературе обычно приводят в формулировках, несколько отличных от формулировок, даваемых в настоящей книге (см. Гнеденко и Колмогоров [1, 1949]). Для этого используется так называемая «схема серий». Приведем в качестве примера не упоминавшуюся в основном тексте важную теорему Линдебсрга — Феллера:

Пусть задана совокупность случайных величин такая, что

(I) при фиксированном величины взаимно независимы;

(II) где числа таковы, что при любом к равномерно по

Тогда для того, чтобы при всех X имело место соотношение

необходимо и достаточно, чтобы при любом выполнилось условие

где

Важный подкласс безгранично делимых законов распределения образуют устойчивые законы распределения, являющиеся предельными для нормированных сумм одинаково распределенных независимых величин. Устойчивые законы характеризуются тем, их характеристическая функция имеет вид

где — любое вещественное число, и а при . В последнее время ряд новых результатов об аналитических свойствах устойчивых законов распределения был получен Лишшком [2, 1954] Скороходом [1, 1954] и Золотаревым [1, 1950].

В книге не упоминаются локальные предельные теоремы для независимых слагаемых, т. е. теоремы, в которых даются асимптотические выражения не для функций распределения суммы случайных величин, а для вероятностей отдельных значений (в случае дискретно распределенных слагаемых) или для плотностей распределения (в случае непрерывно распределенных слагаемых). Обзор работ на эту тему можно найти в книге Гнеденко и Колмогорова [1. 1949]. Из работ последнего времени, не отраженных в этой книге, отметим работу Гнеденко [4, 1954] и работы Прохорова [2, 1952], [4, 1954]; см. также по этому поводу обзорную статью А. Колмогорова [18, 1953].

Отметим еще многообещающее направление исследований, связанное с изучением симметричных функций от независимых случайных величин (результаты § 4 относятся к линейным функциям). Эти исследования начаты Мизесом [1, 1947].

ГЛАВА IV

В недавно опубликованной работе Моргенталера [1, 1955] обсуждается возможность переноса центральной предельной теоремы на суммы ортогональных случайных величин.

ГЛАВА V

В нииге совсем не рассматриваются специфические явления, связанные со случаем счетного множества состояний. (В § 5 множество состояний считается произвольным, но дело в том, что основная «гипотеза Деблина» как раз и была введена для того, чтобы обеспечить полную аналогию результатов теории счетных цепей Маркова с соответствующими результатами для конечного случая.) Специфика счетного случая (по сравнению с конечным) состоит в том, что в этом случае общим является положение, когда

при всех Очень интересен результат Деблина [6, 1938], показавшего, что для счетных цепей Маркова при широких условиях предел

существует и конечен. Поэтому поводу см. также недавнюю работу Чжуна [2,1953]. Гаррис и Роббинс [1, 1953] указали связь подобных результатов с общей эргодической теоремой для динамических систем с бесконечной инвариантной мёрой. До сих пор еще не даны обобщения указанного результата Деблина на случай непрерывного множества состояний и на случай неоднородных цепей.

Отметим еще весьма общий результат Хопфа [2, 1954] относительно существования пределов средних от вероятностей перехода в однородной цепи с любым множеством состояний.

Интересная эргодическая теорема для неоднородных конечных цепей доказана Сарымсаковьга [1, 1953].

Локальная предельная теорема для однородной конечной цепи Маркова изучена исчерпывающим образом Колмогоровым [16, 1950]. Дальнейшие результаты, получаемые развитым Колмогоровым «методом Деблина», см. в работе Чжуна [3, 1954].

Сираждинов [1, 1955] применил к изучению центральной предельной теоремы для однородных цепей Маркова метод характеристических функций и получил асимптотическое разложение соответствующего распределения по степеням

Интересным является вопрос об отличных от нормальных предельных распределениях для сумм величин, связанных в однородную цепь Маркова. Здесь разобран полностью лишь случай двух состояний (см. Добрупшн [2, 1953]).

Большая серия работ (Бернштейна [3,1936], Линника [1,1949], Сапогова [1,1947] и Добрутина [5, 1956] посвящена уточнению условий центральной предельной теоремы для неоднородных цепей Маркова. Приведем здесь наиболее окончательный результат в этом направлении.

Теорема. Пусть величины связаны при любом фиксированном в неоднородную цепь Маркова, заданную переходными вероятностями Пусть Положим

и пусть равномерно по

при Тогда последовательность величин

асимптотически нормальна. Условие уже не является достаточным для асимптотической нормальности.

Важные результаты о локальной предельной теореме для неоднородных цепей Маркова получены Линкиком и Сапоговым [1,1956]. Эти результаты существенно улучшены Статулявичусом [1, 1956].

Вопрос о не являющихся нормальными предельных распределениях для неоднородных цепей Маркова еще почти не изучен. Некоторые частные результаты по этому поводу получены Купменом [1, 1950] и Широиорадом [1, 1954] (см. также обзорную статью Колмогорова [18, 1953]).

Диананда [1, 1953], [2, 1954] и Каллианпур [1, 1955] продолжили исследования Хефдинга и Роббинса, упомянутые в приложении автора.

ГЛАВА VI

Дальнейшие обобщения дифференциальных уравнений, задающих неоднородный марковский процесс с конечным числом состояний (см. § 2), можно найтп в работе Добрушина [3, 1953]. В работе этого же автора ] найдены необходимые и достаточные условия для того, чтобы выборочные функции неоднородного марковского процесса с конечным числом состояний были с вероятностью 1 стзпенчатыми.

Необходимые и достаточные условия того, чтобы выборочные функции сюлеу общего марковского процесса, рассматриваемого в § 2, были ступенчатыми, принадлежат Феллеру [5, 1940] (см. также работу Добрушина [1,1952]).

Продолжение отмеченных в дополнении автора работ Леви см. в статьях Леви [9, 1952] и [10, 1953].

Колмогоров [17,1951] исследовал вопрос о дифференцируемости переходных вероятностей однородной счетной цепи в предположении их непрерывности. Им, в частности, был построен пример цепи с и показано, что Колмогоров высказал гипотезу о том, что при всех существует конечная производная Юшкевпч (работа находится в печати) доказал эту гипотезу в предположении, что тот же результат был независимо получен Остином [1,1955]. Кендалл [1, 1955] перенес результаты Колмогорова на случай произвольного множества состояний.

Важному с прикладной точки зрения частному классу счетных марковских процессов — ветвящимся процессам — посвящена обзорная статья Севастьянова [1, 1951].

Прямое и обратное уравнения в частных производных для марковских процессов диффузионного типа (см. § 3) играют основную роль в многочисленных физических приложениях теории марковских процессов (см., например, Чандрасёкар [1,1947], Мин и Уленбек [ 1, 1945]. Вывод этих уравнений (отсутствующий в настоящей книге) можно найти в учебнике Б. В. Гнедеико [5, 1954]. Общий случай диффузионного процесса с многомерным множеством состояний был исследован впервые А. Колмогоровым [13, 1933], [15, 1937]. Прямое обратное уравнения для важного с точки зрения приложений класса процессов, описывающего брауновское движение с конечной скоростью (ср. конец § 3 гл. VIII книги), были выписаны А. Н. Колмогоровым [14, 1935] (см. также работы Дуба [14, 1944] и Яглома [3, 1949], и цитированные выше обзоры Чандрасекара и Мин Чен Ван и Уленбека).

В последние годы важные результаты в теории марковских процессов с непрерывным временем (и особенно в теории «диффузионных процессов») были получены методами теории полугрупп операторов. По поводу общих вопросов теории таких полугрупп см. работы Хилла [1, 1948] и Иосида [3, 1949].

Любому однородному марковскому процессу, заданному переходными вероятностями , пространство состояний С которого предполагается метрическим пространством, можно при помощи формулы

сопоставить семейство операторов действующих на функции определенные на 2. Такие операторы образуют полугруппу, т. е. Если при этом выполнено условие Феикра, заключающееся в том, что образ непрерывной функции должен быть непрерывной функцией (ср. стр. 577), то полугруппу можно рассматривать как полугруппу операторов в пространстве С непрерывных функций. Инфинитезимальный оператор А, характеризующий процесс, определяется как

Если для любой функции (т. е. если полугруппа операторов непрерывна), то оператор А определен на плотном множестве функций и его заданием однозначно задается как полугруппа, так и сам марковский процесс. Вопрос о классификации марковских процессов сводится таким образом к вопросу об изучении всевозможных операторов А (см. по этому поводу работу Дынкпна [4, 1956]).

Феллер в большой серии работ (см. в частности его работы [9, 1954] и [10, 1355]) изучил одномерные марковские процессы, выделяемые условием: при для

всех , где V — дополнение к некоторой окрестности точки х. Оказалось, что из этого условия и условия, названного нами условием Феллера, следует, что оператор представляет собой некоторое обобщение обычного эллиптического дифференциального оператора второго порядка.

Полугрупповые методы позволяют полностью решить вопрос о возможном поведении диффузионного процесса на границе интервала, являющегося пространством состояний, или, на языке теории дифференциальных уравнений, о всех типах граничных условий для параболического уравнения

Этот вопрос был решен Феллером [7, 1952], [8,1954]. Вероятностное истолкование его результатов см. в работе Дынкина [2, 1955].

В работе Дуба [17,11955] разобрана связь исследований Феллера со стохастическими дифференциальными уравнениями Ито [4,1951], а также получены некоторые новые факты о вероятностных свойствах выборочных функций диффузионных процессов.

Дынкиным [5, 1956] был предложен новый метод изучения марковских процессов, основанный на соединении полугрупповых методов с прямым анализом вероятностного поведения выборочных функций. В частности в этой работе Дынкина было показано, что для любого процесса в многомерном евклидовом пространстве, обладающего непрерывными выборочными функциями и удовлетворяющего условию Феллера, оператор А является обобщенным эллиптическим дифференциальным оператором второго порядка.

Метод Дынкина применим не только к процессам, удовлетворяющим условно Феллера, но и к более общему классу строго марковских процессов (см. стр. 577). В одномерном случае класс строго марковских процессов с непрерывными выборочными функциями существенно богаче, чем класс процессов, изученный Феллером (см. по этому поводу работу Дынкина [5, 1956]).

Като [1,1953] применил методы теории полугрупп к изучению неоднородных марковских процессов.

В интересной работе Маруяма [2, 1955] изучены связи между различными подходами к изучению диффузионных процессов, в частности между «стохастическими разностными уравнениями» Бернштейна и стохастическими дифференциальными уравнениями

Интересным вопросом теории марковских процессов является вопрос об изучении распределения вероятностей для функционалов от выборочной функции такого процесса. -В частности, в случае функционалов вида

где марковский процесс диффузионного типа, некоторая функция, для характеристической функции такого функционала удается получить дифференциальное уравнение, родственное уравнению для переходных вероятностей" (см. [1, 1951], Дынкин Особенно подробно исследован (Камероном, Мартином и др.) вопрос о функционалах от выборочных функций процесса брауновского движения; обзор относящихся сюда исследований (в том числе ряда тесно связанных с изучением таких функционалов исследований в области квантовой механики) был дан Гельфандом и Ягломом [1, 1956].

Очень важпым является вопрос о предельном переходе от функционалов, заданных на последовательности сумм независимых или связанных в цепь Маркова случайных величин, к функционалам, заданным на предельном процессе с непрерывным временем. Для сумм независимых величин наиболее окончательный результат по этому вопросу был получен Прохоровым [4, 1953]. Скороход [2, 1950] перенес эти исследования на случай цени Маркова. С другой стороны к этой же тематике примыкают работы Гихмана [1,1953], [2,1953], использующего метод «верхних и нижних функций».

Укажем еще некоторые новые результаты о свойствах выборочных функций марковских процессов. Пусть — переходные вероятности такого процесса, множество состояний для которого является метрическим пространством. Пусть -дополнение -окрестности точки Положим

Если при любом имеет место соотношение то почти все выборочные функции непрерывны (см. Дыикнц [1,1952] и Кинш [1, 1953]). Если , то почти выборочные функции являются ступенчатыми (см. Кпнни [1, 1953]).

ГЛАВА VII

В дополнение к упомянутой в книге литературе укажем на работу С. Н. Бернштейна [4, 1937], в которой независимо от остальных авторов введен класс процессов, называемых теперь мартингалами, и получено для них обобщение неравенства Колмогорова.

Из работ последнего времени отметим работу Снелла [1, 1952], в которой уточняются результаты о системах игры для мартингалов, подробно изложенные в этой книге. В приложении автора к § 4 главы VII показывается, что из основной теоремы о сходимости мартингалов можно вывести одну теорему Андерсена-Иессена из теории меры. В заметке Мой [1,1953] показывается, что и наоборот из теоремы Андерсена-Иессена можно получить теорему о сходимости мартингалов.

В последнее время теория мартингалов проявила себя как очень полезное орудие в разных областях теории вероятностей. См. по этому поводу работы Макмиллана [1, 1953] и Хинчина [7, 1956], посвященные некоторым вопросам теории информации, работы Дуба [16,1954|, [17, 1955], [18,1955] о брауновском движении и граничных задачах для уравнений в частных производных и работу Добрушина [5, 1956] о предельных теоремах для неоднородных цепей Маркова.

ГЛАВА VIII

Отметим еще тонкие результаты Дворецкого, Эрдеша и Какутани [1, 1954] о точках самопересеченпя выборочных функций процесса брауновского движения в многомерном пространстве. Другой подход к этому вопросу дают важные работы Дуба [16, 1954], [18. 1955], основным содержанием которых является раскрытие связей между граничными задачами для эллиптических b параболических дифференциальных уравнений, с одной стороны, и свойствами выборочных функций процесса брауновского движения (в многомерном пространстве) - с другой. Геометрические свойства выборочных функций процесса брауновского движения изучаются также в работах Леви [ 11, 1953] и Тейлора [1. 1955]. По поводу свойств выборочных функций процесса с независимыми приращениями, имеющими устойчивые распределения вероятностей (ср. приложение переводчиков к гл. II), см. недавнюю работу Мак-Кина [1, 1955].

-В содержательной монографии Хинчина [6, 1955] собран обширный материал по применениям теории пуассоновского процесса и теории марковских процессов со счетным числом состояний к теории массового обслуживания.

ГЛАВЫ X-XI

В литературе на русском языке эргодическая теорема для стационарных в узком смысле процессов (теорема 2.1 настоящей книги) часто называется теоремой Биркгофа— Хинчина (она была доказана Биркгофом для некоторого специального класса сохраняющих меру преобразований, а Хинчин дал доказательство этой теоремы в полной общности, что позволило ему указать также и ее теоретико-вероятностное истолкование). Простое доказательство этой теоремы (родственное приведенному в книге) было дано Колмогоровым [19,1938] (см. также узеоник Гнеденко [5, 1954], § 57).

Прямое доказательство теоремы 4.1, кратко намеченное на стр. 432 книга, проведено (дляслучая непрерывного цяраметра) с несколько большими подробностями в обзорной статье А. М. Яглома ([5, 1952] стр. 33—35). Более простое технически, но более искусственное доказательство, приведенное в тексте, впервые было указано Каруненом [2, 1947].

По поводу вопроса об оценке значений корреляционной и спектральной функций стационарного в широком смысле процесса по его выборочным функциям, лишь слегка затронутого в § 7, см. также недавние работы Гренандера и Розенблатта [2, 1953], [3, 1953], содержащие дальнейшее развитие и некоторые примеры использования результатов более ранней заметки [1, 1952], указанной в приложении автора книги.

Более подробное исследование стационарных процессов с рациональной спектральной плотностью можно найти в работе Дуба [15, 1944].

Результаты теории гильбертовых пространств, на которые ссылается автор в приложении к гл. X—XI, изложены на русском языке в учеонике Ахвезера и Глазмана [1, 1950].

Остаповнмся еще на некоторых обобщениях понятия стационарного процесса, дополняющих материал гл. X—XI. Одно из таких обоощевпй, кратко описанное в § 7 гл. XII, Состоит в том, что вместо одного случайного процесса рассматривают совокупность таких процессов, т. е. многомерный -мерные) процесс Изложенные в гл. XI основные результаты теории стационарных в широком смысле многомерных процессов принадлежат Крамеру [2, 1940] и А. 11. Колмогорову [11, 1941]. Далее, наряду с процессами зависящими от одного действительного параметра мы можем рассматривать также вероятностные функции зависящие от нескольких действительных параметров, т. е. от

точки многомерного пространства; такие функции обычно называются вероятностными полями в соответствующем многомерном пространстве. Простейшим обобщением условия стационарности здесь будет условие инвариантности всех конечномерных распределений вероятностей для величин случае стационарности в узком смысле) или же лишь первых и вторых моментов случае стаписнарности в широком смысле) относительно параллельных переносов системы точек или, соответственно, точки и пары точек Вероятностные поля, удовлетворяющие этому условию, называются однородными (соответственно в узком или в широком смысле); в случае полей, однородных в широком смысле, математическое ожидание будет произвольной постоянной, а корреляционная функция будет представляться в виде многомерного интеграла Фурье — Стильтьеса, аналогичного интегралу в правой части формулы (3.2) гл. X (это утверждение немедленно вытекает из известного результата Бохнера [3, 1933]). Само поле здесь также будет допускать спектральное представление, родственно тому, которое устанавливается в одномерном случае теоремой 4.1; общее доказательство этого факта ничем не отличается от соответствующего доказательства одномерного случая. Укажемеще, что поскольку теорема Бохнера [1, 1932; 3, 1933] об общем виде положительно определенной функции на прямой или на -мерном пространстве допускает обобщение на случав положительно определенной функции на произвольной коммутативной топологической группе с мерой Хаара (см. работы Вейля и Райкова, цитированные обзоре А. Яглома [5, 1952]), то и основные результаты о спектральном представлении корреляционной функции и самого вероятностного процесса автоматически обобщаются на случай однородных вероятностных полей на таких группах.

Дальнейшим важным классом вероятностных полей являются однородные и изотропные поля в многомерном пространстве, играющие существенную роль в современной статистической теории турбулентности (см. Бартлет ], А. М. Обухов [3, 1954; 4,1954], А. Яглом [2, 1948; 5,1952]). Однородное вероятностное поле называется однородным и изотропным в широком смысле, если его корреляцпонная функция зависит только от длины вектора (т. е. R инвариантно относительно всех движений пары точек Вопрос об общем впзе корреляционной функции здесь сводится к вопросу об общем виде положительно определенной функции от расстояния между точками -мерного эвклидова пространства; используя относящиеся к этому последнему вопросу результаты Шенберга [1, 1938] можно утверждать, что функция тогда и только тогда будет корреляционной функцией некоторого однородного и изотропного поля в -мерном пространстве, когда она представима в виде

где — функция Бесселя порядка действительная, монотонно неубывающая, ограниченная функция. Формула (I) играет ту же роль в теории однородных и изотропных полей, что и формула (3.2) в теории вероятностных процессов. Наряду с одномерными можно, разумеется, рассматривать и многомерные однородные и изотропные поля теория которых строится совершенно аналогично теории многомерных стационарных процессов; существенно новые трудности здесь возникают лишь в тех случаях, когда компоненты поля х линейио преобразуются при вращении пространства (например, когда величина х является -мерным вектором или тензором некоторого ранга) и требуется, чтобы матрица не менялась при параллельных переносах иары- точек и при вращениях этой пары точек, сопровождаемых одновременным линейным преобразованием компонент ноля. Общая теория подобных векторных и тензорных однородных и изотропных полей, тесно связанная с теорией представлений группы вращений, пока еще мало разработана; окончательные результаты имеются лишь для случая векторного поля в трехмерном пространстве, важного для теории турбулентности (см., например, А. М. Яглом [2, 1948], Бартлет [1, 1955]).

Естественным обобщением понятий однородного и однородного и изотропного вероятностных полей является понятие однородного вероятностного поля на произвольном однородном пространстве (т. е. на произвольном пространстве с заданной группой «движений»). Исследование общего вида корреляционной функции такого поля, очевидно, сводится к аналитической задаче об описании всех положительно определенных функций от пары точек иространства инвариантных относительно соответствующей группы движений. Для пространства. являющегося -мерной сферой, общий вид корреляциопной функции (являющейся здесь функцией только от расстояния между двумя точками) был получен Шенбергом [2, 1942] (случай независимо от него был разобран также Обуховым [2,1947], получившим для этого случая и аналог спектрального представления (4.1) самого

вероятностного процесса); дальнейшие, более общие, результаты в этом направлении можно иайти в статье Крейна [5, 1949—1950].

Отличным от перечисленных выше обобщением понятия стационарного вероятностного процесса является понятие процесса со стационарными приращениями некоторого порядка. Простейший частный случай таких процессов — случай процессов со стационарными приращениями первого порядка — подробно рассмотрен в § 11 гл. X настоящей книги. В последнее время в работах Яглома и Пинскера [1,1953] и Ито [7, 1954] (см. также Гельфанд [1, 1955], Пинскер [2, 1955], Яглом [7, 1935]) была развита также и обшая теория процессов со стационарными приращениями произвольного (скажем порядка. В этом случае за основу следует принять разностп процесса

процесс называется процессом со стационарными (в широком смысле) приращениями, еслп является случайной функцией относительно переменных такой, что мателктческие ожидания не зависят от Основными статистическими характеристиками процесса являются функции в перечисленных выше работах Доказывается, что общий вид этих функций дается формулами

где с — постоянная, ограниченная монотонно неубывающая действительная функция. Формула очевидно, является обобщением формулы (11.2) гл. XI; исходя из нее легко получить также и результат, обобщающий формулу (11.1) этой главы (см. работы Пинскера а Яглома),

Наконец, еще одним обобщением понятия стационарного процесса является понятие стационарного обобщенного процессами, стр. 577—578). Ясно, что для обобщенных вероятностных процессов также можно определить понятие стационарности (как в узком, так в в широком смысле); так, например, нропасс будет называться стационарным в широком смысле, если соответствующий корреляционный функционал не меняет своего значения при одновременном сдвиге обоих функций на любое действительное число (т. е. при замене Типичным примером стационарного, в широком смысле обобщенного процесса является «белый шум» —производная процесса с ортогональными приращениями такими, что (см. стр. 472); в этом случае, очевидно, Общая теория стационарных в широком смысле обобщенных процессов дана Ито [7, 1954] и Гельфандом [1, 1955]; оказывается, что а этом случае корреляционный функционал всегда имеет вид

композиция функций обобщенная функция в смысле Шварца [1,1956 — 1951] («обобщенная корреляционная функция» процесса допускающая представление вида (3.2) гл. XI:

в равенстве произвольная действительная монотонно неубывающая функция такая, что существует целое Число для которого выполняется неравенство

С помощью теории обобщенных стационарных процессов особенно просто получаются все результаты теории процессов со стационарными приращениями: действительно, производная процесса со стационарными приращенпями всегда существует, как стационарный обобщенный вероятностный процесс (который, разумеется, может быть, а может и не быть процессом в обычном смысле); поэтому всевозможные (необобщенные) процессы со стационарными приращениями — это те -кратные

интегралы от обобщенных стационарных процессов, которые являются обычными процессами с непрерывным параметром. Именно на этом пути и был получен Ито [7,1954] и И. М. Гельфандом [1, 1955) общий вид процессов со стационарными приращениями. Обратно, теория процессов со стационарными приращениями позволяет наглядно объяснить смысл обобщенных стационарных процессов: легко показать, что любой обобщенный стационарный случайный процесс является производной (фиктивной с точки зрения обычных процессов) от некоторого обычного процесса пгационарными приращениями [целое число здесь то же, что и в неравенстве Таким образом, при рассмотрении в § 11 гл. XI настоящей книги «фиктивных» производных общего процесса со стационарными первыми приращениями автор совсем близко подошел к перечислению вообще всех «фиктивных» (т. е. обобщенных) стационарных процессов (точнее тех обобщенных стационарных процессов, которые отвечают пространству основных функций, выбранному Шварцем [1, 1950-1951 ]).

ГЛАВА XII

Ряд вопросов теории линейного прогноза (или, как чаще говорят, линейной экстраполяции) стационарных процессов, допускающих элементарное решение, подробно разобран (с большим количеством примеров) в гл. II обзорной статьи Яглома [5, 1952]. Содержащийся там материал может служить хорошим введением к материалу гл. XII.

Поскольку библиографические и исторические замечания в приложении автора к гл. XII (стр. 575) очень кратки, укажем здесь немного подробнее те оригинальные работы, в которых содержатся приведенные в книге результаты. Постановка задачи о линейном прогнозе стационарных вероятностных процессов (с дискретным параметром), так же как и геометрическая интерпретация этой задачи (см. § 1) и сведение ее к задаче теории функций (§ 2) принадлежат Колмогорову [11,1941]. Простое решение задачи о прогнозе для случая рациональной относительно спектральной плотности процесса х (см. § 3) было впервые указано Дубом [15, 1944] (см. также обзор Яглома [5, 19521). Основные общие результаты, касающиеся прогноза стационарных процессов с непрерывным параметром (теоремы 5.1 и 5.2), принадлежат Крейну [3, 1944]; изложенный в книге метод доказательства этих теорем близок к использованному Ахиезером [1, 1947]. Теорема 5.3 впервые была доказана Ханнером [1, 1950] и Каруненом Постановка задачи о наилучшем линейном прогнозе по значениям процесса х в прошлом произвольной случайной величины корреляционно связанной с этим процессом (см. § 6), встречается в несколько иной формулировке (о которой см. ниже) в книге Винера [3, 1949]. Задача о прогнозе многомерных стационарных процессов (с дискретным параметром) рассматривалась в заметке Заеухина [1, 1941], в которой указаны некоторые результаты, дополняющие материал § 7; чисто аналитическую формулировку (не включающую никаких теоретико-вероятностных понятий) одного из этих результатов можно найти также в недавней работе Винера [4, 1955].

Некоторые интересные приложения результатов о лйнейном прогнозе стационарных процессов к шенноновской теории информации можно найти в работе Пинскера [1. 1954].

Отличный от изложенного в настоящей книге подхол к теорпи линейного прогноза приведен в книге Винера [3, 1949] (на русском языке содержание этой книги подробно разобрано в монографии В. В. Солодовникойа [1, 1952]). Рассуждения Винера не являются математически строгими (его книга ориентирована на читателя-инженера, а не на специалиста-математика); основное внимание он уделяет нахождению явных (и практически удобных) формул для наилучшего прогноза и для прогнозирующей функции (являющейся, с точки зрения инженера, частотной характеристикой фильтра, осуществляющего прогноз).

Метод Винера решения задачи о проглозе основывается на (велении ее к решению некоторого интегрального уравнения типа Винера-Хопфа; при этом с самого начала предполагается, что спектральная функция стационарного процесса является абсолютно непрерывной, фактически же рассматривается почти исключительно случай, когда соответствующая спектральная плотность является рациональной функцией X (только в этом случае для получаются простые явные формулы). Наряду с обычной задачей о линейном прогнозе Винеррассматривает также так называемую «задачу о линейной фильтрации», заключающуюся в нахождении наилучшего приближения, линейно зависящего от значений процесса в прошлом к значению в некоторый момент другого стационарного процесса стационарно связанного с (т. е. такого, что пара образует двумерный стационарный процесс в смысле § 7). Для практики здесь важнейшим является случай, когда где — это «помехи», искажающие передаваемое «сообщение» в этом случае сформулированная задача о фильтрации совпадает с очень важной для техники связи задачей о «фильтрации помех» (отсюда и происходит название нашей математической задачи). Однако в эту схему укладыпается и ряд задач с технической точка зрения отличных от задачи о. фильтрации (например, задача о приближенном дифференцировании, см. Винер [3,1949], Солодовников помимо того следует иметь в внду, что под в задаче о

фильтрации всегда можно понимать вообще произвольную случайную величину X, для которой известна функция всегда можно подобрать стационарный и стационарно связанный с процесс значением которого в момент будет заданная величина X). Таким образом, винеровская задача о фильтрации точно совпадает с задачей, рассмотренной в § 6 гл. XII настоящей книги. В связи с этим последнюю задачу мы будем называть «фщгьтрапией». Явное решение задачи о фильтрации в книге Винера получено в предположении, что (матричная) спектральная функция. процесса является абсолютно непрерывной (т. е. что все элементы матрицы абсолютно непрерывны) и что производные всех элементов рациональные функции от для задачи, рассмотренной в § 6, это равносильно предположению о том, что процесс имеет рациональную спектральную плотность и что функция представила в виде

где — произвольное действительное число, а рациональная функция (при этом вид решения будет различным в зависимости от того, будет ли или Краткое изложение метода Винера решения задач о прогнозе и о фильтрации стационарных процессов (также не вполне строгое с точки зрения специалиста-математика) включено в книгу Бартлета [1, 1955]; другой метод получения тех же результатов приведен в обзоре Яглома ]; (см. также Яглом [6, 1955|).

Важным обобщением задач о прогнозе и о фильтрации процесса по всему его прошлому значениям при являются задачи о прогнозе и о фильтрации по значениям на конечном интервале (т. е. о наилучшем линейном приближении величины или, соответственно, X посредством величин начало § 5); этом разумеется, имеет смысл говорить лишь о случае непрерывного параметра в противном случае мы будем иметь просто хорошо известную задачу о многомерной линейной регрессии. Некоторые вопросы из теории функций и функционального анализа, весьма близко примыкающие к указанным теоретико-вероятиостным задачам, разбирались в работах М. Г. Крейна [1, 1944; 4, 1944]; явные формулы для решения в случае рациональной спектральной плотности процесса (и рациональной функции в случае задачи о фильтрации) были получены (без строгого математического обоснования) Заде и Рагацини [1; 1950] в качестве частного случая решения некоторой более обшей задачи которой см. ниже). Для весьма специального случаи процессов, спектральная плотность которых равна деленной на многочлен от к (а также для некоторых нестационарных вероятностных процессов же специального вида), математически аккуратное изложение решения задач о прогнозе и о фильтрации по значениям на конечном интервале, близкое к тому, которое было намечено Заде и Рагапини, приведено в работе Долфа и Вудбери] 1,1950] (см. также примыкающую сюда работу Сегуши и Икеда] другой метод обоснования всех результатов Заде и Рагацини, относящихся к стационарным процессам, предложен Ягломом [0,1955]. В недавней заметке Крейна намечен путь сведения задач о прогнозе и фильтрации стационарных процессов, заданных на конечном интервале, к задаче о восстановлении дифференциального уравнения колебания неоднородной струны по его спектральной функции; используя далее эффективные решения этой последней задачи, перечисленные в заметке [7, 1954] того же автора, можно также и отсюда получить явные решения указанных теоретико-вероятностных задач для процессов с рациональной спектральной плотностью (и найти подобные же решения ряда других, более сшециальных, процессов).

Задачей, родственной задачам о линейном прогнозе и линейной фильтрации, является задача о линейной интерполяции — наилучшем линейном приближении к значению стационарного процесса в момент но значениям этого же процесса в моменты времени вне некоторого конечного интервала временной оси, содержащего точку Для процесса с дискретным параметром и в предположении, что «пропущенным» интервал состоит из единственной точки эта задача была решена еще в работах Колмогорова ; при этом оказалось, что для того чтобы интерполяция была точной [т. е. чтобы величину можно было сколь угодно точно аппроксимировать линейной комбинацией значений процесса с отличными от значениями параметра], необходимо и достаточно, чтобы интеграл

был расходящимся. Полученное условие, как это должно быть, является более широким, условие осуществления точного линейного прогноза, заключающееся в расходимости интеграла от (см. теорему 4.3). Обобщение приведенного здесь результата на случай, когда «пропущенным» является конечное число значений параметра, содержится в заметке Яглома [4, 1949]; некоторые общие результаты

об интерполяции процессов с непрерывным параметром (аналогичные имеющимся в случае дискретного параметра) указаны в работе Карунена [4, 1952]; наконец, явные решения этой последней задачи для случая рациональной спектральной плотности процесса найдены в работе Яглома [6, 1955].

В заключение остановимся еще на задаче о линейном прогнозе и родственных ей задачах для нестационарных вероятностных процессов. Выше уже указывалось, что частные примеры решения подобных задач (для процессов специального типа) были указаны Долфом и Вубдери [1,1952] и Сетуши и Икеда [1,1954]. Общая задача о линейном прогнозе (и линейной фильтрации) произвольных нестационарных процессов, заданных на конечном интервале, рассматривалась Каруненом (см. работу Гренандера [1,1950]) и Дэвисом [1,1952], исходя из разложения такого процесса в ряд (с ортогональными коэффициентами) по собственным функциям соответствующего корреляционного ядра (по поводу такого разложения см. также работу Пугачева [1. 1953]); однако практическое применение найденных на этом пути общих решений требует привлечения значительной вычислительной техники. Другой путь, также широко используемый в приложениях, заключается в обобщении результатов, полученных для стационарных процессов, на некоторые более широкие (но все же специальные) классы вероятностных процессов. Так еще в книге Винера [3, 1949] указывается, что теория прогноза и фильтрации стационарных процессов может быть немедленно использована для решения подобных же задач для процессов, производная некоторого (скажем порядка которых является стационарным процессом; в работе Заде и Рагацини [1, 1950] все результаты формулируются не для стационарных процессов, а сразу для более общих процессов, представимых в виде суммы стационарного процесса и некоторого многочлена (с неизвестными коэффициентами), степень которого не превосходит заданного числа А. Оба указанных обобщения понятия стационарного процесса естественно укладываются в общую схему процессов со стационарными приращениями, о которых говорилось в приложениях переводчиков к гл. X—XI; перенесению всех результатов теории прогноза, фильтрации и интерполяции стационарных процессов на этот более широкий класс процессов (охватывающему и приведенные выше результаты Винера и Заде и Рагапини) посвящены недавно появившиеся работы Яглома [7, 1955] и Пинскера [2, 1955] (см. также работы Карунена [5, 1962] и Крейна [6, 1954)], в которых рассмотрен случай процессоа со стационарными первыми приращениями; некоторые относящиеся сюда аналитические предложения содержатся также и в более старых работах Крейна .

Литература

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)