7.2. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ И ОЖИДАНИЯ

Случайная величина х (мы временно опустим индекс есть функция, определенная на пространстве выборок Пространство выборок — это множество событий причем скалярная функция называется реализацией случайной величины х. Пространство выборок характеризуется также законом вероятности, который ставит в соответствие различным подмножествам из некоторые вероятности. Ожидаемое значение случайной величины можно интерпретировать как линейный функционал от функции х, определяемый эвристически в виде

где есть вероятностная функция, определенная на Средний квадрат величины х есть квадратичный функционал от х, который можно трактовать как квадрат нормы

Некоторое неудобство соотношений (7.2) и (7.3) связано с тем, что индекс суммирования может пробегать несчетное множество значений и, кроме того, обычно нет физически ясного механизма, который

связывает случайные значения и и отображения в пространстве выборок. К счастью, имеется другое описание, которое полностьюхарактеризует случайные величины через плопиюсть вероятности. Это описание несколько затемняет роль гильбертова пространства как пространства случайных величин. Тем не менее ожидания определяются как скалярные произведения (линейные или квадратичные функционалы), легко выражаемые через плотность вероятности.

Вещественную случайную величину х можно полностью охарактеризовать вероятностью события, состоящего в том, что а для всех вещественных значений а. Плотность вероятности определяется условием

Если х принимает некоторые значения с конечной вероятностью это приводит к появлению -функций в формуле плотности вероятности [3]. Но указанные -функции можно выделить в записи, оставляя регулярной:

Ожидаемое значение случайной величины, т. е. ее среднее значение, определяется соотношением

Выражение (7,6) часто используется как удобная символика для определения ожидания. Средний квадрат величины х дается формулой

Другой важный статистический параметр — средний квадрат центрированной случайной величины — называется дисперсией и обозначается

Случайная величина может быть также задана своей характеристической функцией:

Очевидна тесная связь характеристической функции и преобразования Фурье:

Две илиболее случайных величин называются совместно распределенными» если они являются функциями, определенными на одном и том же пространстве выборок и могут быть описаны совместной плотностью вероятности

Совместно распределенные случайные величины могут быть также заданы совместной характеристической функцией

Кроме средних значений и дисперсий отдельных случайных величин, нас часто интересует ожидаемое значение произведения двух случайных величин Эта величина называется корреляциейг она имеет выражение

Понятие корреляции приводит к желаемой геометрической интерпретации пространства случайных величин. Действительно, соотношение (7.12) удовлетворяет условиям (2.28), характеризующим скалярное произведение величин а норма и расстояние естественным образом порождаются этим скалярным произведением. Чтобы показать, что удовлетворяет свойствам (2.28), заметим, что для вещественных векторов свойство (2.28а) скалярного произведения требует лишь симметрии, которая, очевидно, имеет место. Свойство (2.286) — требование линейности — удовлетворяется в силу следующего:

В (7.13) мы использовали основное свойство совместной плотности вероятности

Наконец, для доказательства свойства (2.28в), заметим, что

Здесь учтено, что — неотрицательная функция. Кроме того, равно нулю в том и только в том случае, если отлично от нуля с нулевой вероятностью.

Определив скалярное произведение случайных величин, мы можем ввести расстояние между ними как среднеквадратическую разность:

Если корреляция двух случайных величин равна нулю, то говорят, что они ортогональны. Корреляция центрированных случайных величин называется ковариацией величин

Если ковариация равна нулю, то говорят что величины линейно независимы. Из (7.16) следует, что ортогональные случайные величины линейно независимы, если их средние значения равны нулю.

Более сильный тип независимости имеет место, когда независимы события для всех Говорят, что случайные величины, обладающие этим свойством, статистически независимы; их совместная плотность распределения характеризуется свойством

Заметим, что из (7.17) следует, что поэтому статистическая независимость означает линейную независимость. Обратное, вообще говоря, неверно, так как статистическая независимость есть более сильное утверждение, нежели линейная независимость.