Функции Rn(d) и R(d) для меры локального искажения и эргодического источника

Предположим, что заданы эргодический источник сообщения и мера локального искажения. Рассмотрим -буквенные блоки сообщений с их вероятностями (определяемыми источником) вместе с возможными блоками воспроизводимых сообщений длины Пусть значения переходных вероятностей от -блоков к -блокам заданы как При таком задании можно вычислить две величины: 1) среднюю взаимную информацию на букву

и 2) среднее искажение

Варьируя при условии можно в принципе найти минимум величины для каждого значения Назовем эту величину

Возникающая здесь проблема минимизации совпадает с исследованной ранее, если рассматривать и как отдельные буквы

(большого) алфавита. Поэтому различные выводы, полученные ранее, могут быть использованы и здесь. В частности, есть выпуклая вниз функция.

Определим теперь для данного источника функцию скорости искажения относительно рассматриваемой меры искажения

Можно показать прямыми, но трудоемкими рассуждениями, которые не приводятся, что в этом равенстве можно заменить нижний предел на обычный. Другими словами, стремится к пределу, когда .

Теперь можно доказать теорему кодирования для произвольного эргодического источника с мерой локального искажения.