8.3 ПРОИЗВОДЯЩИЕ ФУНКЦИИ СЛУЧАЙНЫХ ВЕЛИЧИН

Если X — случайная величина, принимающая только целые неотрицательные значения, то мы можем компактно представить ее распределение вероятностей, используя методы гл. 7. Производящей функцией случайной величины (пфсв) X называется ряд

Этот степенной ряд по степеням z содержит всю информацию о случайной величине X. Его можно записать еще двумя способами:

Коэффициенты неотрицательны и их сумма равна 1; последнее условие можно записать как

Обратно, любой степенной ряд с неотрицательными коэффициентами и со свойством является пфсв для некоторой случайной величины.

Самое приятное свойство производящих функций случайных величин — то, что они обычно упрощают вычисление средних и дисперсий. Вот как просто выражается, например, математическое ожидание:

Надо просто продифференцировать ПФСВ по z и подставить Вычислить дисперсию лишь немногим сложнее:

Следовательно,

Мы видим из уравнений (8.28) и (8.29), что для нахождения математического ожидания и дисперсии нам достаточно суметь вычислить значения двух производных, (1) и Нет необходимости в замкнутом выражении для вероятностей; нам даже не требуется знать саму функцию в замкнутом виде.

Удобно ввести обозначения

для произвольной функции поскольку нам часто придется вычислять именно эти комбинации производных.

Следующее хорошее свойство — то, что во многих важных случаях производящие функции оказываются относительно простыми функциями Рассмотрим в качестве примера равномерное распределение порядка т. е. случайную величину, принимающую каждое из значений с вероятностью . В этом случае пфсв равна

Мы получили замкнутый вид для поскольку это — геометрическая прогрессия.

Это замкнутое выражение, однако, несколько обманчиво: если подставить в него (наиболее важное для ПФСВ значение то получится неопределенное отношение хотя сама функция является многочленом и вполне определена для любых . То, что очевидно из исходного, незамкнутого выражения хотя, по всей видимости, мы можем определить и из его замкнутого выражения, обратившись к правилу Лопиталя и вычислив с его помощью Вычисление по правилу Лопиталя будет еще сложнее, поскольку в знаменателе окажется множитель создаст еще большие трудности.

К счастью, есть простой выход из этого затруднения. Если степенной ряд сходится по крайней мере для одного z с то тем же свойством обладает и ряд и то же верно для Поэтому по формуле Тейлора можем записать

и все производные при появятся в качестве коэффициентов, если разложить по степеням

Например, этим способом легко находятся производные для равномерной ПФСВ :

Сравнение с (8.33) дает

и, в общем случае, однако для вычисления среднего и дисперсии нам понадобятся лишь случаи Математическое ожидание равномерного распределения равно

а дисперсия равна

Третье место в реестре удобств занимает то свойство пфсв, что произведение ПФСВ отвечает сумме независимых случайных величин. В гл. 5 и 7 мы выяснили, что произведение производящих функций соответствует свертке последовательностей; однако для приложений даже более важно то, что свертка вероятностей отвечает сумме независимых случайных величин. Действительно, если X и Y — случайные величины, принимающие только целочисленные значения, то вероятность события составляет

Если X и Y независимы, то получаем

а это не что иное, как свертка. Следовательно, мы получаем эффектную формулу

Ранее в этой главе мы видели, что если X и Y независимы. Пусть — ПФСВ для X и Y, а — ПФСВ для . Тогда

и из формул (8.28)-(8.31) для среднего и дисперсии мы можем сделать вывод, что должны выполняться равенства

Эти формулы, выражающие некоторые свойства производных не выполняются для произведения произвольных функций вместо этого имеем

Однако, подставив можно увидеть, что (8.38) и (8.39) будут справедливы в общем случае, если выполнено условие

и требуемые производные существуют. Для справедливости этих формул не требуется, чтобы „вероятности" лежали в диапазоне Чтобы удовлетворить условию (8.40) мы можем нормализовать функции поделив их всюду на если только не равны нулю.

Математическое ожидание и дисперсия — это еще не все. Эти характеристики всего лишь два первых члена из бесконечного ряда так называемых кумулянтов (или семиинвариантов), введенных датским астрономом Торвальдом Николаи Тиеле [293] в . Первые два кумулянта случайной величины — это то, что мы до сих пор называли математическим ожиданием и дисперсией; вдобавок к ним имеются и кумулянты более высокого порядка, выражающие более тонкие свойства распределения. Если — ПФСВ, то ее кумулянты любого порядка выражаются с помощью общей формулы

Приглядимся к кумулянтам внимательнее. Если — пфсв для X, то

где

Эта величина называется «m-м моментом» случайной величины X. Мы можем взять экспоненту от обеих частей (8.41) и получим другую формулу для

Приравнивание коэффициентов при одинаковых степенях дает следующий ряд формул:

Эти формулы выражают кумулянты через моменты. Заметьте, что действительно совпадает с дисперсией как утверждалось выше.

Из уравнения (8.41) ясно, что кумулянты, порождаемые произведением двух , будут суммами соответствующих кумулянтов поскольку логарифм произведения есть сумма логарифмов. Следовательно, все кумулянты суммы независимых случайных величин являются аддитивными, так же, как математическое ожидание и дисперсия. Это свойство делает кумулянты более важными, чем моменты.

Если пойти несколько иным путем и записать

то уравнение (8.33) показывает, что числа а — это „факториальные моменты"

Кроме того,

и мы можем выразить кумулянты через производные

Эта последовательность формул порождает „аддитивные" тождества, которые продолжают (8.38) и (8.39) на все кумулянты.

А сейчас спустимся с небес на землю и применим рассмотренные идеи к простым примерам. Простейшей случайной величиной является „случайная константа": случайная величина X принимает одно фиксированное значение х с вероятностью 1. В этом случае следовательно, математическое ожидание равно х, а все остальные кумулянты — нули. Отсюда следует, что операция умножения любой ПФСВ на увеличивает ожидаемое значение на х, но оставляет неизменными дисперсию и другие кумулянты.

Как применить производящие функции к кубикам? Распределению числа очков на одном правильном кубике отвечает ПФСВ

где — ПФСВ для равномерного распределения порядка 6. Множитель добавляет 1 к среднему, которое поэтому оказывается равным 3.5 вместо как записано в (8.35); вместе с тем, этот не влияет на дисперсию (8.36), которая равняется

Производящая функция суммы очков на двух независимых кубиках равна квадрату ПФСВ для одного кубика, т. е.

Если пару кубиков бросают раз, то вероятность получить в итоге к очков, аналогично предыдущему, равна

В рассмотренной ранее задаче о подбрасывании шляп в честь победившей футбольной команды, известной также как задача подсчета неподвижных точек случайной перестановки, ПФСВ известна из (5.49):

Следовательно,

Даже не зная никаких подробностей о коэффициентах, из рекуррентного соотношения заключаем, что следовательно,

Эта формула упрощает вычисление математического ожидания и дисперсии; мы находим (как и раньше, но быстрее), что обе характеристики равны 1 при

На самом деле сейчас мы можем показать, что и кумулянт этой случайной величины равен 1 для любого . Действительно, кумулянт зависит только от а все эти производные равны 1; следовательно, ответ для кумулянта не изменится, если мы заменим на предельную ПФСВ

такую, что для всех порядков производной. Кумулянты же тождественно равны 1, поскольку