§ 13. Импульсный шум и центральная предельная теорема

Как известно, под названием «центральной предельной теоремы» в теории вероятностей фигурирует не одна, а целое семейство теорем различной степени общности, касающихся одного и того же вопроса — предельного распределения суммы независимых случайных величин при неограниченном увеличении числа слагаемых.

Мы видели (§ 9), что сумма любого числа нормально распределенных величин тоже распределена по гауссову закону. Центральная предельная теорема сразу же выводит за пределы «нормального семейства». Уже в частном примере пуассоновского импульсного случайного процесса (§ 10) мы убедились, что при увеличении «густоты» шума, т. е. увеличении числа независимых импульсов складывающихся в каждый данный момент времени распределение суммы стремится к нормальному. Слагаемые были при этом распределены не по гауссову, но по некоторому специальному закону, одинаковому для всех (и вытекающему из распределений случайных параметров ).

Другой пример того же рода дает теорема Муавра — Лапласа (§ 6), которую нетрудно записать в такой форме, чтобы она относилась к среднему арифметическому (т. е. к сумме независимых случайных величин-фиксаторов ):

Согласно теореме при неограниченном росте числа N независимых случайных слагаемых распределение (нормированной) суммы стремится к нормальному. Здесь все слагаемые распределены, как и в примере импульсного процесса, одинаково, но теперь это распределение — простая альтернатива или 0 с вероятностями .

Не будет ли нормальное распределение суммы предельным при иных распределениях слагаемых или даже при распределениях, различных для каждого слагаемого? Если это так, то насколько жестким ограничениям должны быть подчинены распределения слагаемых? На эти вопросы и отвечает центральная предельная теорема.

Эти вопросы важны потому, что они касаются статистики таких физических величин, на значение которых влияет очень много независимых случайных-факторов, причем каждый из них вызывает лишь весьма малое случайное отклонение. С таким положением рещей мы сталкиваемся и при измерениях, и в

флуктуациях макроскопических величин, обусловленных хаотичностью положений и движений огромного количества микрочастиц — молекул, ионов, электронов и т. д. Эта проблема в свое время привлекла внимание уже Гаусса. Чебышев, Марков, Ляпунов дали первое ее решение, показав, что на случайные слагаемые действительно достаточно наложить лишь очень общие ограничения. Смысл этих ограничений именно в том и состоит, что отдельные слагаемые должны мало влиять на сумму, и тем меньше, чем больше

Строгое доказательство теоремы дал в 1898 г. Марков, а затем в 1900 г. в более общей форме — Ляпунов. Теорема Ляпунова (вместе с дальнейшими ее обобщениями) и получила название центральной предельной теоремы теории вероятностей.

Поясним идею доказательства на очень простом случае теоремы Линдеберга — Леви. В этой теореме (доказанной позже теоремы Ляпунова) содержится очень сильное ограничение: предполагается, что все слагаемые распределены одинаково. Содержание теоремы следующее: пусть — независимые случайные величины с одинаковой функцией распределения причем тогда, равномерно для всех распределение суммы

стремится при к

т. е.

откуда

равномерно относительно х при любых фиксированных а и . Это, конечно, весьма частный случай центральной предельной теоремы, но, в отличие от теоремы Ляпунова, здесь не предполагается существования абсолютных моментов порядка (см. ниже).

Доказательство теоремы очень простое — благодаря использованию характеристических функций. Пусть соответствует характеристическая функция По условию

1. Следовательно,

откуда

Для

характеристическая функция есть

При она стремится равномерно в каждом конечном интервале и к , т. е. к характеристической функции для . Это все, что нужно, так как по теореме Леви, если последовательность характеристических функций сходится к то последовательность соответствующих функций распределения сходится к соответствующей

Теорема Ляпунова является более общей в том отношении, что касается суммы неодинаково распределенных независимых случайных величин. И здесь, если предположить, что (что, конечно, нисколько не уменьшает общности, а делается просто для удобства), а дисперсии конечны, то при определенных условиях закон распределения нормированной суммы

— дисперсия суммы стремится при . Весь вопрос в этих условиях.

Особенно важен случай, когда при имеем но т. е. каждая отдельная компонента составляет исчезающе малую долю от суммарной дисперсии неограниченно растущей с увеличением N. В этом случае является достаточным условие, фигурирующее в теореме Ляпунова. Обозначим через сумму абсолютных моментов порядка:

Условие Ляпунова можно записать тогда в виде

т. е. требуется, чтобы у величин существовали абсолютные моменты какого-либо порядка и чтобы корень степени из суммы этих моментов возрастал при медленнее, чем квадратный корень из суммы дисперсий. Если условие (13.2) выполнено, то распределение ) нормированной суммы стремится при к нормальному закону Пользуясь условием (13.2), Ляпунов не только доказал свою теорему, но и дал оценку величины т. е. нашел, как быстро она стремится к нулю с ростом N [не медленнее, чем Крамер усилил эту оценку: при несколько более жестких условиях модуль разности меньше ].

Заметим, что в том же случае при самое общее (необходимое и достаточное) условие справедливости центральной предельной теоремы — это условие Линдеберга. Мы ограничимся, однако, формулировкой теоремы при условии Ляпунова, поскольку им вполне можно обойтись в подавляющем большинстве физических задач. Более того, как правило, достаточно пользоваться условием Ляпунова при , т. е. брать это условие в виде

Для теории шумов условие Ляпунова означает, что нет больших редких выбросов (если только сами эти выбросы не подчинены нормальному закону распределения), что в каждый момент складывается чрезвычайно много равноправных (в смысле их относительной малости) случайных независимых величин. При этих условиях, выполняющихся для широкого класса шумов, распределение шума будет нормальным. Но при одинаковом распределении шумы могут существенно различаться по другим свойствам, в частности по своим спектрам. Для шумов, возникающих от наложения независимых импульсов, эти различия зависят от особенностей отдельных слагаемых, от формы складывающихся импульсов.

Заметим, что проведенный выше вывод условия (10.14), при котором распределение суперпозиции случайных импульсов приближается к нормальному, по сути дела означал применение условия Ляпунова (13.3), причем в данной задаче и есть число N случайных величин определяющих мгновенное значение суммы