§ 4. Безгранично делимые распределения и центральная предельная теорема

Предположим, что случайная величина х представима в виде

где случайные величины взаимно независимы. Это предположение не является ограничением на распределение величины х, так как мы всегда

можем положить Если, однако, предположить дополнительно, что величины малы, то (4.1) окажется существенным ограничением на величину х. Для того чтобы избежать рассмотрения побочных вопросов о структуре соответствующих -пространств, мы будем здесь формулировать условия в терминах функций распределения и характеристических функций, а не в терминах самих случайных величпн.

Функция распределения называется безгранично делимой в обобщенном смысле, если для любого функция может быть представлена в виде композиции функций распределения

где функции удовлетворяют условию

Если взаимно независимые случайные величины с функциями распределения то их сумма будет иметь функцию распределения причем Отметим, что, за исключением тривиальных случаев, как так будут зависеть от

Очевидно, является характеристической функпией безгранично делимого закона (в обобщенном смысле) тогда и только тогда, когда для любого функция может быть представлена в виде

характеристические функции, удовлетворяющие условию при число и функпии будут, за исключением тривиальных случаев, зависеть от

Функция распределения называется безгранично делимой, если при каждом она может быть представлена в виде (4.1) с т. е. если при каждом ее характеристическая функция является степенью некоторой характеристической функции, Если выбрано настолько малым, что при то ясно, что равномерно по при а отсюда следует (см. § 11 гл. I), что равномерно в каждом конечном интервале. Таким образом, в рассматриваемом случае является характеристической функцией безгранично делимого в обобщённом смысле распределения. Ниже будет показано, что и, обратно, распределение, безгранично делимое в обобщенном смысле, является безгранично делимым. Другими словами, будет показано, что дополнительное требование, чтобы функции распределения в (4.1) или характеристические функции в были одинаковыми, не представляет собой нового ограничения на распределение суммы; выражение «в обобщенном смысле» оказывается поэтому излишним и будет в дальнейшем всегда опускаться.

Прежде чем продолжить систематическое изложение, дадим несколько простых примеров безграничио делимых распределений и получим для каждого из этих случаев разложения (4.1) или

а) Пусть данное распределение сосредоточено в единственной точке так что

Тогда для любого функция является композицией распределений, каждое из которых сосредоточено в точке При этом

б) Пусть данное распределение гауссовскоэ, с математическим ожиданием 7 и дисперсией При каждом оно является композицией гауссовских распределений с математическими ожиданиями и дисперсиями

в) Пусть данное распределение является распределением Пуассона:

Характеристическая функция этого распределения дается формулой

является, следовательно, характеристической функцией того же самого распрздэлзния с с, замзнзнным Вообще, если х имеет распределение (4.3), то логарифм характеристической функции случайной величины равен

так что (соответственным образом выбранный) корень степени из этой характеристической функции является характеристической функцией того же самого распределения, но с замененными на

Мы покажем сейчас, что характеристическая функция каждого безгранично делимого в обобщенном смысле распределения дается следующей формулой Леви, приводимой здесь в виде, приданном ей Хинчиным:

где монотонно неубывающая ограниченная функция, а подинтегральная функция при считается равной своему предельному значению — Прежде чем доказывать эту формулу, посмотрим, к чему приводит (4.6) в различных частных случаях:

Здесь и является характеристической функцией безгранично делимого распределения, рассмотренного выше, в примере а).

В этом случае

и является характеристической функцией гауссовского распределения со средним значением и дисперсией рассмотренного выше в примере б).

Тогда

и мы получаем пуассоновский случай, рассмотренный выше в примере в). Отметим, что -значение X, при котором функция делает скачок, — является шагом соответствующего распределения Пуассона.

Так как подинтегральяая функция в (4.6) ограничена и непрерывна, то этот интеграл всегда существует. Далее, если — и если то

где К — наименьшая верхняя грань абсолютного значения подинтегральной функции в (4.6) по всем максимальнее колебание подинтегральной функции на интервалах при Если достаточно велико, достаточно мал, то правая часть этого неравенства будет при фиксированном меньше любого наперед заданного положительного числа. Следавательно, функция может быть представлена как предел последовательности функций, получаемых при замене интеграла на соответствующим образом выбранные суммы Римана — Стильтьеса, причем эта сходимость будет равномерней на каждом конечном интервале значений Так как аппроксимирующая сумма является логарифмом некоторой характеристической функции, а именно, характеристической функции композиции гауссовских и пуассоновских распределений, рассмотренных выше в примерах б) и в), то определенный равенством (4.6), также является логарифмом характеристической функции. Соответствующее распределение должно быть безгранично делимым, так как задается той же самой формулой, но с замененными на

Теорема 4. 1. Каждое безгранично делимое распределение является безгранично делимым распределением в обобщенном смысле, и наоборот. Распределение является безгранично делимым тогда и только тогда, когда его характеристическая функция нигде не обращается в нуль и задается формулой (4.6), где монотонно неубывающая ограниченная функция и действительное число.

Достаточно доказать, что характеристическая функция любого безгранично делимого в обобщенном смысле распределения может быть записана в виде (4.6). Действительно, как мы уже отмечали, формула (4.6) приводит всегда к безгранично делимому распределению. По предположению, для любого мы можем записать в виде

где характеристические функции, удовлетворяющие неравенству

Минимальное число сомножителей зависит от Если то из этих соотношений следует, что при так что нигде не обращается в нуль. Центрируем, как мы уже неоднократно делали, распределение, соответствующее при помощи усеченных математических ожиданий: если функция распределения, соответствующая то вычтем центрирующие константы

где - медиана распределения и получим новую функцию распределения Тогда, если характеристическая функция центрированного распределения, то мы будем иметь

где - сумма центрирующих констант. Положительное число а будем в дальнейшем рассуждении считать фиксированным. Ясно, что при центрирующие константы каждого из отдельных распределений равномерно стремятся к 0, так что, изменив, если нужно, обозначения, мы можем предполагать, что

Мы будем использовать дальше обычные обозначения о причем речь здесь всегда будет идти о предельном поведении функций от равномерно на конечном интервале значений Тогда

и в силу неравенства (11.10) гл. I при

так что

Далее, используя неравенства (11.8) и (11.9) гл. I, найденное в § 11 гл. I выражение для и только что полученную оценку для получаем, что

и

здесь в первом неравенстве оценка о (1) равномерна по при и любом фиксированном во втором неравенстве оценка равномерна по при и фиксированном и.. Функция определенная равенством

монотонна по X и в силу (4.7) и (4.8) равномерно ограничзна. Далее, из (4.7) следует, что

равномерно по когда По теореме Хелли можно найти стремящуюся к нулю последовательность значений параметра , для которой при , где монотонная ограниченная функция; при этом, ввиду только что отмеченной равномерности предельного перехода, Далее, перейдя от можно представить в виде

где

Если пробегая значения то интеграл в последней строке формулы (4.9) стремится к интегралу в (4.6) равномерно в каждом конечном интервале значений (о предельном переходе под знаком интеграла Стильтьеса см. в § 11 гл. 1), и так как левая часть (4.9) не зависит от то должно сходиться к некоторому пределу Это завершает доказательство.

Для дальнейшего нам будет полезно установить, что соотношение (4.6) однозначно определяет величину и функцию по функции (если допустить, что функция нормирована требованием непрерывности справа и обращения в в точке — Чтобы показать это, заметим, что

где монотонно неубывающая и ограниченная функция. можно рассматривать как «функцию распределения», соответствующую «характеристической функции» и поэтому функция , а следовательно, и однозначно определяется функцией Постоянная также

определяется однозначно, так как она равна разностп между и интегралом, входящим в (4.6).

Отметнм, что при выводе (4.6) у нас на первый взгляд был некоторый произвол в определении функции так как эта функция определялась как предел некоторой последовательности функций и поэтому казалось, возможным, что различные последовательности могут давать различные пределы. Однако так как теперь показано, что если то функция однозначно определяется функцией во всех своих точках непрерывности, то отсюда следует, что все последовательности могут иметь только один и тот же предел т. е. что во всех точках непрерывности функции Аналогично

Важнейшим частным случаем является тот, в котором постоянна всюду, за исключением точки 0, где она делает скачок; в этом случае безгранично делимое распределение оказывается гауссовским. Приводимое ниже следствие дает для этого достаточное условие.

Следствие 1. Если для любого функция распределения может быть записана в виде (4.1), причем

то функция распределения является гауссовской.

Только что наложенное на условие много сильнее условия безграничной делимости. Чтобы доказать это следствие, проследим доказательство предыдущей теоремы, используя при этом сделанное теперь предположение. Функция входящая в формулировку следствия, соответствует функции использованной при доказательстве теоремы, и поэтому в доказательстве теоремы мы можем считать, что для любого

если с достаточно мало. Если то и

Поэтому из условия, наложенного на вытекает следующее условие на

Таким образом, «распределение» при малом все более концентрируется вблизи 0. То же самое верно и для распределения так что должно всюду постоянно, за исключением возможного скачка при Поэтому первоначальное распределение является гауссовским. (Мы считаем случайную величину, равную тождественно постоянной, гауссовской случайной величиной с дисперсией 0.) Покажем еще, что предположения рассмотренного здесь следствия действительно могут выполняться, так что оно не является бессодержательным. В самом деле, если гауссовская случайная величина, с

то мы можем представить х в виде где взаимнонезависимые гауссовскне величины с

Тогда

На языке случайных величин это следствие утверждает, что еслп случайная величина х может быть представлена в виде суммы взаимно независимых случайных величин, так, чтобы при сколь угодно малых выполнялось неравенство то величина х является гауссовской. Действительно, условия

нвляются эквивалентными, так как (см. § 1) вероятность появления хотя бы одного из некоторого набора независимых событий (в нашем случае событий стремится к нулю одновременно с математическим ожиданием числа их появлений.

До сих пор мы брали заданное распределение и исследовали, какие ограничения накладывает на него предположение, что оно является композицией распределений, сконцентрированных около нуля. Несколько более общий вопрос состоит в следующем. Предположим, что случайные величипы взаимно независимы и малы,

Спрашивается, что можно тогда сказать об асимптотическом поведении распределения их суммы х. Если характеристическая функция распределения ьеличины у. и характеристическая функция распределения величины х, то

Разница между этим и изученным выше случаем состоит в том, что левая часть последнего равенства может зависеть от Однако мы можем все же использовать обозначения и метод, примененные при доказательстве теоремы 4.1. Это доказательство показывает, что если величины выбираются так, чтобы при случайная величина х имела предельное распределение, то это предельное распределение задается формулой (4.6) и, следовательно, является безгранично делимым. В частности, если заданное распределение может быть аппроксимировано безгранично делимыми распределениями, то оно может быть аппроксимировано и композициями распределений малых случайных величин и, следовательно, также является безгранично делимым. Мы получили, таким образом, следующий результат: Следствие 2. Распределение, предельное для последовательности безгранично делимых распределений, само является безгранично делимым.

Используя (4.10), нетрудно показать, что функции соответствующие аппроксимирующим распределениям (определение см. в (4.6)), сходятся к функции соответствующей предельному распределению, во всех точках непрерывности последнего, если только все эти функции нормированы предположением, что они равны в точке —

С этой точки зрения очень естественной является теорема о том, что распределенпе суммы большого числа взаимно независимых малых случайных величин близко к некоторому безгранично делимому распределению, параметры которого могут быть выражены через эти слагаемые. Доказательство этой теоремы можно провести так же, как и

доказательство теоремы 4.1, однако при этом встретится одна дополнительная трудность. В теореме 4.1 распределение суммы было дано заранее. Поэтому правые части неравенств (4.7) и (4.8), в которые входит характеристическая функция этого распределения, были фиксированными. Но при нашей новой точке зрения функция в этих неравенствах уже не фиксирована, и на самом деле мы хотим изучить асимптотическое поведение при малых Поэтому требование ограниченности левых частей неравенств (4.7) и (4.8) должно содержаться в самом условии теоремы. Мы ограничимся случаем гауссовского предельного распределения, т. е. случаем, когда функция в (4.6) постоянна, за исключением скачка при и докажем тем самым один из вариантов центральной предельной теоремы (центральная предельная теорема — это общее название, применяемое к любой теореме, утверждающей, что суммы малых случайных величин имеют, при соответствующих ограничениях, приблизительно нормальное распределение).

Теорема 4.2. Пусть сумма взаимно независимых случайных величин. Пусть, далее, положительные числа, причем Положим

Предположим, что и что

Тогда существует постоянная зависящая только от и стремящаяся к О при фиксированном такая, что

Обратно, если является суммой взаимно независимых случайных величин с нулевыми медианами, положительные числа, причем и о определены так же, как и выше, если

и если

причем то существует зависящее только от и стремящееся к О при и фиксированном такое, что

Условие (4.11) можно заменить асимптотически эквивалентным условием

Чтобы показать, насколько простым является прямое утверждение теоремы, мы докажем его, не, прибегая к методам, развитым в теореме 4.1.

Определим равенством

так что

Мы предположим теперь настолько малым, что

Тогда

так что

Если обозначить теперь через характеристическую функцию разности — то в соответствии с неравенством (11.4) гл. 1 при будем иметь

Если то при достаточно малых

и мы можем поэтому положить

где

Далее, если характеристическая функция суммы

и

так что сумма в (4.16) стремится к при -равномерно для Следовательно, сумма асимптотически нормальна при со средним и дисперсией Так как

то распределение суммы совпадает асимптотически (при с распределением суммы чем и завершается доказательство первой половины теоремы 4.2.

Пусть теперь выполнены условия обратного утверждения теоремы. Мы предположим, что по некоторой последовательности значений, что при каждом значении 7] определена соответствующая условиям теоремы сумма х и что задано число и докажем, что тогда при достаточно малых выполнено (4.14). Если характеристическая функция случайной величины х, то по предположению теоремы характеристическая функция асимптотически совпадает с С другой стороны, соображения, использованные при доказательстве теоремы 4.1, могут быть применены и в этом случае, и они показывают, что асимптотически совпадает с некоторой характеристической функцией, задаваемой формулой (4.6). (Мы можем предположить, что асимптотически приближаются к конечным предельным значениям.) Тогда функция в (4.6) должна быть постоянна всюду, за исключением точки 0, где она имеет скачок. В соответствии с проведенным нами выводом соотношения (4.6) это означает, что

стремится к нулю при Так как то отсюда следует, что если настолько мало, что то

Теперь из доказанного раньше прямого утверждения теоремы следует, что асимптотически нормальна со средним и дисперсией так что будут асимптотически совпадать, соответственно, с что и требовалось доказать.

Мы рассмотрим сейчас два полезных частных случая только что доказанной теоремы. Чтобы иллюстрировать возможные методы доказательства, мы первый из этих частных случаев (теорему 4.3) получим здесь независимо от теоремы 4.2; второй же частный случай (теорема 4.4) будет выведен; как следствие из теоремы 4.2.

Теорема 4.3. Пусть -независимые одинаково распределенные случайные величины, имеющие конечную дисперсию Тогда последовательность случайных величин

является асимптотически гауссовской с математическим ожиданием и дисперсией т. е. равномерно по X

Действительно, если характеристическая функция случайной величины то в силу соотношения (11.4) гл. I мы имеем

так что при достаточно малом

Характеристическая функция величины равна

Так как этот логарифм сходится равномерно в каждом конечном интервале, то теорема доказана.

В заключение приведем принадлежащий Ляпунову знаменитый вариант центральной предельной теоремы, имеющий широкую область приложений.

Теорема 4.4. Пусть взаимно независимые случайные величины. Предположим, что и что при некотором

Определим равенствами

Тогда, если и если

то

где при равномерно по X и по всем допустимым распределениям величин Заметим, что

откуда (суммируя по получаем, что

а это значит, что при малом велико число слагаемых

Используя соотношение (11.4) гл. I, легко доказать теорему 4.4 прямым методом, так же как была выше доказана теорема 4. 3. Однако поучительнее будет вывести теорему 4.4 из общего результата, содержащегося в теореме 4.2. Мы применим теорему 4.2 к величинам Заметим прежде всего, что из очевидного обобщения неравенства Чебышева на степень с показателем следует, что для любого

если Таким образом, в рассматриваемом случае условие (4.11) удовлетворяется при достаточно малом Остается вычислить усеченные математические ожидания и дисперсии, используемые в теореме 4.2. Мы имеем

так что

Аналогично,

Следовательно, поскольку

Таким образом, наша теорема следует из теоремы 4.2.

Чтобы показать, насколько широка область применения этой теоремы, заметим, что если, например, взаимно независимые случайные величины с для некоторой постоянной К и если дисперсии величин равномерно больше нуля, то последовательность случайных величин

асимптотически нормальна при со средним и дисперсией 1. Действительно, в этом случае и отношение, входящее в условия теоремы Ляпунова, стремится к нулю: