6. Вычисление пропускной способности канала

Мы можем теперь найти пропускную способность канала согласно (4.3). Рассмотрим случай кодирования последовательностей (см. п. 3) в предположении, что система устойчива. При очень большом Т решение сводится к преобладающему

члену (4.18):

откуда

где Теперь с помощью (4.3) получаем для пропускной способности канала

Шеннон рассматривает также задачи с ограничениями, наложенными на возможные последовательности символов но мы удовольствуемся предшествующим обсуждением задачи без ограничений.

Определив таким образом пропускную способность канала, Шеннон вводит свое определение меры информации, которое мы обсуждали в предыдущих главах. Затем он доказывает основную теорему для канала без шумов:

«Если канал имеет пропускную способность в секунду и получает сообщение от источника в количестве на символ, то наилучшая система кодирования позволит использовать канал со скоростью символов в секунду».

Доказательство этой теоремы последует из рассуждений дальнейших разделов.