§ 3.2. Функции плотности вероятности; эргодическая гипотеза

Здесь мы опишем функции плотности вероятности, которые являются наиболее фундаментальными характеристиками стохастических сигналов. Для описания стохастического процесса, как мы увидим, требуется бесконечное множество функций плотности вероятности. Однако во многих задачах в этой книге будут употребляться только первые две функции плотности вероятности. Мы увидим также, что можно достигнуть упрощения, если статистические характеристики процесса не зависят от времени; в этом случае процесс называется стационарным.

Для того чтобы лучше усвоить понятие плотности вероятности, представим себе, что нами сконструирован механизм, генерирующий стохастический сигнал. Для воспроизведения ансамбля таких сигналов построим некоторое количество идентичных копий этого механизма. Присоединяя к каждому механизму осциллограф, мы получим осциллограмм стохастических сигналов, принадлежащих к этому ансамблю. Расположим эти осциллограммы по порядку, как показано на рис. Одномерную функцию плотности вероятности можно приближенно определить отношением доли числа сигналов, находящихся в интервале между в момент времени к интервалу Более точное определение одномерной функции плотности вероятности можно дать в терминах двух чисел. Пусть

и

Тогда одномерная функция плотности вероятности определяется так:

Одномерная плотность вероятности является функцией области положения используемой при определении дроби

Расположение этой области определяется двумя координатами. Одной координатой является положение на шкале сигналов, другой координатой положение на шкале времени. По интуиции, мы предположим, что дробь пропорциональна когда становится очень малым. Поэтому деление дроби на при стремящемся к нулю, приведет в пределе к функции, не зависящей от

В качестве примера на применение одномерной функции плотности вероятности мы рассмотрим задачу о вычислении средней величины стохастического сигнала.

Рис. 3.2-1. Экспериментальный подход к определению функций плотности вероятности.

Вообще говоря, единственный экземпляр стохастического сигнала, взятый из ансамбля, не позволяет получить некоторую среднюю величину путем усреднения по времени. Чтобы получить некоторую среднюю величину стохастической функции, мы должны усреднять значения отдельных величин, взятых по ансамблю, при фиксированном времени. Тогда средняя вечичина будет функцией времени, при котором производилось усреднение. Обозначим усреднение по ансамблю волнистой чертой для того, чтобы отличить его от усреднения по времени, которое обозначим прямой чертой. Пусть -момент времени, в который производится усреднение по ансамблю, - величины сигналов из ансамбля {см. рис. 3.2-1), где 1 указывает время — номер осциллограммы. Тогда среднее по ансамблю определяется так:

Данное определение усреднения по ансамблю вполне эквивалентно выражению

где — одномерная функция плотности вероятности (3.2-3). Это можно обнаружить с помощью группировки величин в соответствии с уровнем сигнала. Например, можно сгруппировать вместе все лежащие в интервале между Отношение числа этих сигналов к полному числу сигналов в пределе суть Взвешивая каждую величину сигнала дробью, выражающей частоту события, и суммируя, в пределе придем к уравнению (3.2-5).

Двумерная функция плотности вероятности определяется сходным путем. Обратимся к рис. 3.2-1. Пусть

Тогда двумерная функция плотности вероятности определится так:

Мы видим, таким образом, что двумерная плотность вероятности зависит от четырех величин. Из них и определяют первую область и вторую область которые использовались при определении числа сигналов Как и выше, предположим, что при малых отношение сигналов пропорционально этим величинам. Очевидно, что двумерная функция плотности вероятности дает более детальное описание ансамбля, чем одномерная. В самом деле, одномерная функция плотности вероятности может быть получена из двумерной

Это выражение непосредственно следует из определения, заданного уравнением (3.2-7).

Функции плотности вероятности высших порядков могут быть определены путем обобщения выражений для одномерной и двумерной функций плотности вероятности. Стохастический процесс

определяется все более детально с возрастанием порядка функции плотности вероятности. Функции более низких порядков связаны с функциями более высоких порядков соотношением, подобным (3.2-8):

Оно выражает важную особенность функций плотности вероятности. Другая особенность состоит в том, что площадь под кривой одномерной функции плотности вероятности при фиксированном времени равна единице, т. е.

Тем самым выражена уверенность, что значения сигнала лежат внутри области от минус бесконечности до плюс бесконечности.

Мы рассматривали стохастические процессы в наиболее общей форме, включая нестационарные процессы, т. е. процессы с изменяющейся во времени статистикой. Простым примером нестационарного процесса является ансамбль механизмов, один из которых показан на рис. 3.2-2.

Рис. 3.2-2. Механизм, генерирующий нестационарный стохастический сигнал.

Чтобы пояснить, каким образом статистика процесса может изменяться со временем, на рис. 3.2-3 показано возможное изменение со временем одномерной плотности вероятности. Сигнал, поданный на потенциометр, является стационарным, но сигнал на выходе является нестационарным. Первоначально движок потенциометра ближе к верхней части, так что уровень выходного сигнала высок, но с течением времени движок потенциометра сдвигается к нулю. Тогда мы можем ожидать, что в начальные моменты времени функции плотности вероятности будут более широкими, чем в поздние

моменты времени. Теперь займемся стационарными стохастическими процессами.

Стационарный процесс можно определить как процесс, функции плотности вероятности которого при изменении начала отсчета времени остаются неизменными. Одномерная функция плотности вероятности становится не зависящей от времени, двумерная зависит только от разности между и

Рис. 3.2-3. Возможное изменение во времени одномерной плотности вероятности нестационарного процесса.

Таким образом, число временных координат данной плотности вероятности для стационарного процесса на единицу меньше по сравнению с нестационарным. Так как функции плотности вероятности не зависят от начала отсчета времени, то статистика стационарного процесса, как это будет показано, полностью выявляется при исследовании единственной осциллограммы, бесконечной длины. Вводя

можем определить одномерную функцию плотности вероятности так:

Здесь мы полагаем, что одномерная плотность вероятности приближенно равна отношению к той доли времени, в течение которой

значения сигнала (на осциллограмме рис. 3.2-1 при индексе ) лежат между и Подобным же образом определим

так что двумерная функция плотности вероятности

Мы имеем теперь два способа определения функций плотности вероятности стационарного процесса. Один способ — это обработка осциллограмм с использованием уравнений (3.2-3), (3.2-7) и т. д. Другой способ — это обработка единственной осциллограммы бесконечной длины с использованием уравнений (3.2-13), (3.2-15) и т. д. Возникает интересный вопрос: соответствуют ли друг другу плотности вероятности, подсчитанные Этими двумя методами? Интуитивно мы полагаем, что это имеет место. Такое предположение получило название эргодической гипотезы. В настоящее время эквивалентность этих двух методов в общем случае не доказана. Однако с технической точки зрения мы хотим, насколько это возможно, использовать эргодическую гипотезу для наших целей. Пока что мы не выяснили возможности ее использования.

Другой аспект эргодической гипотезы заключается в соотношении между усреднением по времени и усреднением по ансамблю. В соответствии с этой гипотезой усреднение по времени эквивалентно усреднению по ансамблю. Таким образом, можно подсчитать среднее значение стационарной функции или с помощью уравнения (3.2-4) или как среднее по времени с помощью формулы

Выражение вида (3.2-5) для средней величины стационарного сигнала является средним по ансамблю или средним по времени, в зависимости от того, как определена плотность вероятности, потому что в соответствии с эргодической гипотезой эти плотности вероятности одинаковы, и не имеет значения, которую из них мы употребим.