6. Пропускная способность канала связи с шумами

«Скорость передачи информации» в системе связи можно определить как средний прирост информации за единицу времени на приемном конце, и одна из наиболее интересных задач теории связи заключается в вычислении максимальной скорости передачи информации при различных условиях. Допустим, например, что система имеет полосу шириной и что принятое колебание (после того, как подействовал весь шум) задается как где посланное колебание, — белый гауссов шум, простирающийся на полосу Пусть их мощности будут

и допустим, что эти средние значения фиксированы. Уместно спросить: какие колебания нужно передавать, чтобы сделать максимальной скорость передачи, чему будет равна при этом скорость передачи и какая практическая интерпретация может быть дана этой скорости, когда она будет найдена? Шэнноном были даны ответы на все три вопроса. Начнем с рассмотрения того, как можно достигнуть максимальной скорости передачи информации.

Колебания могут рассматриваться, согласно сказанному в гл. II, как векторы, подчиняющиеся определенным распределениям вероятностей в пространстве сигналов. Средняя передача информации выражается следующим образом через эти распределения:

Согласно уравнению зависит лишь от а это, в свою очередь, есть распределение шума , если отвлечься от сдвига на этот сдвиг не влияет на величину энтропии. Таким образом, имеем

В гл. II было показано, что энтропия шума за большой интервал дается выражением

Мощность колебания у равна так как шум имеет наибольшую для фиксированной мощности энтропию, у будет обладать максимальной энтропией, если оно по своим свойствам

подобно шуму. Это можно осуществить, выбирая ансамбль передаваемых колебаний так, чтобы они походили на экземпляры шума; этим дается ответ на первый из трех вопросов. Второй вопрос разрешается просто, ибо по аналогии с (37) имеем для максимума

Следовательно, за время

и максимальная скорость передачи информации равна

Это — теорема Шаннона о средних мощностях причем в доказательстве мы следовали Шэннону. Но один из наиболее выдающихся результатов Шэннона остается еще не освещенным. Шэннон показал, что, установив подходящее соответствие между длинными последовательностями двоичных знаков от источника информации и длинными кусками передаваемого колебания можно передавать двоичные знаки со скоростью с произвольно малой частотой ошибок. Это может быть сделано, несмотря на шум; более того, это может быть сделано даже тогда, когда мощность сигнала много меньше, чем мощность шума, при условии, что не будет сделано попыток превзойти скорость, задаваемую уравнением (40). На этом основании по аналогии с понятием емкости накопителя скорость может быть названа емкостью канала связи в двоичных единицах в секунду х.

Теорема (40) является, конечно, лишь одной из множества тех, которые здесь могут быть найдены. Может случиться, что ограничению подвергается не средняя, а пиковая мощность сигнала. Далее, шум может не быть гауссовым. Каковы бы ни были ограничения, возможно (в принципе) вычислить скорость передачи информации и отсюда пропускную способность. Для связиста ценность теории очевидна, но даже если отвлечься от практических применений, она представляет глубокий научный интерес.