Главная > Работы по теории информации и кибернетики (1963)
НАПИШУ ВСЁ ЧТО ЗАДАЛИ
СЕКРЕТНЫЙ БОТ В ТЕЛЕГЕ
<< Предыдущий параграф Следующий параграф >>
Пред.
След.
Макеты страниц

Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше

Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике

ДЛЯ СТУДЕНТОВ И ШКОЛЬНИКОВ ЕСТЬ
ZADANIA.TO

Приложение 3. ТЕОРЕМА ОБ ЭРГОДИЧЕСКИХ ИСТОЧНИКАХ

Предположим, что источник является эргодическим, так что применим усиленный закон больших чисел. Таким образом, число непосредственных переходов из состояния в состояние в последовательности большой длины приблизительно пропорционально

вероятности нахождения в состоянии скажем умноженной на Если достаточно велико, то вероятность ошибки, не превосходящей 6%, в этом случае меньше чем так что все числа, кроме множества малой вероятности, заключены в пределах

Следовательно, все последовательности, за исключением сколь угодно малой доли, имеют вероятность р:

и ограничен соотношениями

или

Это доказывает теорему 3.

Теорема 4 немедленно следует отсюда, если вычислить верхнюю и нижнюю границы для учитывая область возможных значений указываемую теоремой 3.

В смешанном (не эргодическом) случае, когда

а энтропии компонент суть справедлива следующая теорема:

Теорема. Пусть тогда — убывающая ступенчатая функция и в интервале справедливо равенство

Для доказательства теорем 5 и 6 прежде всего заметим, что монотонно убывает, так как увеличение увеличивает значение условной энтропии. Простая подстановка значения в формулу для показывает, что

Суммируя по всем получим

Следовательно, и монотонно убывают. Они должны также сходиться к тому же самому пределу. Применяя теорему 3, видим, что

1
Оглавление
email@scask.ru