ПРИЛОЖЕНИЕ В. ТЕОРИЯ ВЕРОЯТНОСТИ И ЭНТРОПИЯ

§ 1. Биномиальное, пуассоновское и нормальное распределения

В этом приложении мы приведем несколько наиболее важных результатов теории вероятности, которые использовались в основном тексте книги. Начнем с биномиального распределения, которое применялось в гл. 7 при описании модели зернистой пленки в виде шахматной доски. Нам необходимо определить вероятность того, что среди N белых и черных квадратов, не различимых по другим признакам, будет точно белых квадратов. Ясно, что существует N положений для первого белого квадрата, для второго и положений для белого квадрата. Общее число перестановок для элементов среди N положений равно

но так как белых квадратов неразличимы между собой, то число сочетаний m неразличимых элементов составляет

Вероятность появления каждого из квадратов равна а вероятность появления черных квадратов равна ). Тогда мы получаем

Можно элементарно показать для биномиального распределения, что

так что

Теперь, если увеличивать и в то же время уменьшать так, чтобы при этом оставалось конечным, то оказывается, что биномиальное распределение стремится к пуассоновскому распределению, выражаемому формулой

где

Далее, если увеличивать N, но так, чтобы где

оставалось малым, то мы приходим к нормальному, или гауссову, распределению