10. Пропускная способность канала при произвольном типе шума

Существует, конечно, много видов помех, не являющихся гауссовским шумом; таковы, например, импульсная помеха или белый шум, пропущенный через нелинейное устройство. Если на сигнал наложена одна из этих помех, то по-прежнему имеется определенная пропускная способность канала С, максимальная скорость передачи двоичных чисел. Наметим здесь только общую теорию. Пусть — мгновенные значения помехи в последовательных точках отсчета и пусть

вероятность что эти значения лежат между Тогда функция описывает статистическую структуру помехи, поскольку рассматриваются последовательных отсчетов. Энтропия Н помехи определяется следующим

образом. Положим

Тогда

Предел существует во всех практически интересных случаях и во многих из них может быть найден. И есть мера случайности помехи. В случае белого гауссовского шума мощности энтропия равна

Удобно измерять случайность произвольного вида помехи не непосредственно ее энтропией, а по сравнению с белым шумом. Можно вычислить мощность белого шума, имеющего такую же энтропию, как данная помеха. Эту мощность, равную

где Н — энтропия данной помехи, будем называть энтропийной мощностью помехи.

Помеха с энтропийной мощностью действует сходно с белым шумом мощностью поскольку рассматривается изменение сообщения. Можно показать, что область неопределенности около каждой точки сигнала будет иметь такой же объем, как при белом шуме. Конечно, это уже не будет сферическая область. При доказательстве теоремы 1 объем области неопределенности был главным использованным признаком помехи. В основном то же рассуждение с небольшими изменениями может быть применено к помехе любого вида. Этот результат выражает следующая теорема.

Теорема 3. Пусть помеха в ограниченной полосе имеет мощность и энтропийную мощность Тогда пропускная способность С лежит в пределах

где Р — средняя мощность сигнала, — ширина полосы.

Если помеха есть белый шум, то обе границы совпадают, и результат сводится к теореме 2 разд. 7.

Для любой другой помехи Вот почему белый шум есть наихудшая помеха из всех возможных. Если помеха есть

гауссовский шум со спектром то

Верхняя граница в теореме 3 достигается, когда превзойдена наибольшая мощность помехи на рис. 8. Это легко проверить подстановкой.

В наиболее интересных случаях велико. При этом обе границы примерно равны и можно считать пропускную способность равной Лучше брать верхнюю границу, так как можно показать, что С при увеличении приближается к верхней границе.