25. Пропускная способность канала при ограничении средней мощности

Теорему 16 особенно просто применить для того случая, когда шум является белым тепловым шумом, а передаваемые сигналы ограничены по средней мощности величиной Р. Тогда принимаемые сигналы имеют среднюю мощность где — средняя мощность шума. Энтропия принимаемых сигналов будет максимальной тогда, когда они составят ансамбль белого шума, так как это даст наибольшую возможную энтропию при мощности Такая энтропия может быть получена путем подходящего выбора ансамбля передаваемых сигналов, а именно в том случае, когда они образуют ансамбль белого шума мощности Р. Энтропия (в секунду) ансамбля принимаемых сигналов будет тогда равна

а энтропия шума

Пропускная способность канала равна

Суммируя вышесказанное, получаем следующую теорему:

Теорема 17. Пропускная способность канала с полосой частот в котором имеется белый тепловой шум мощности при условии, что средняя мощность передаваемых сигналов ограничена величиной Р, равна

Это означает, что с помощью достаточно сложных систем кодирования можно передавать двоичные знаки со скоростью бит в секунду, при сколь угодно малой частоте ошибок. Невозможно передавать с большей скоростью при любой системе кодирования без того, чтобы частота ошибок не была бы положительна.

Для достижения этой предельной скорости передачи передаваемые сигналы должны приближаться по своим статистическим свойствам к белому шуму. Одна система, для которой скорость подачи приближается к идеальной, может быть описана следующим образом:

Пусть созданы выборок белого шума, каждая длительности Т. Им приписываются двоичные числа от 0 до

передатчике последовательности сообщений разбиваются на группы по двоичных знаков и для каждой группы в качестве сигнала передается соответствующая выборка шума. На приемном конце эти М выборок известны, и действительно принятый сигнал (искаженный шумом) сравнивается с каждой из них. Выборка, которая имеет наименьшее среднеквадратичное отклонение от принятого сигнала, принимается за переданный сигнал, по которому восстанавливается соответствующее двоичное число. Этот прием эквивалентен выбору наиболее вероятного (апостериори) сигнала. Число используемых выборок шума М будет зависеть от допустимой частоты ошибок но для почти всех наборов выборок имеем

Таким образом, независимо от того, насколько малым выбрано можно, выбирая Т достаточно большим, приблизиться сколь угодно близко к передаче Двоичных единиц за время Т.

Формулы, подобные для случая белого шума были получены независимо и некоторыми другими авторами, хотя в несколько другой интерпретации. Здесь можно упомянуть в этой связи работы Н. Винера, В. Г. Таллера и X. Сулливана.

В случае произвольного искажающего шума (не обязательно белого теплового шума) задача максимизации, связанная с определением пропускной способности С, по-видимому, не может быть решена явно. Однако могут быть установлены верхняя и нижняя границы для С в терминах средней мощности шума и энтропийной мощности шума . В большинстве практических случаев эти границы достаточно близки друг к другу и поэтому дают удовлетворительное решение проблемы.

Теорема 18. Пропускная способность канала с полосой частот в котором имеется произвольный шум, ограничена неравенствами

где Р — средняя мощность передаваемых сигналов, — средняя мощность шума, энтропийная мощность шума.

Здесь опять средняя мощность искаженных сигналов будет Энтропия была бы максимальной для этой мощности, если

бы принимаемый сигнал был бы белым шумом, и она равнялась бы Может быть, этого и нельзя достичь, т. е., может быть, и не существует такого ансамбля передаваемых сигналов, который, будучи добавлен к искажающему шуму, дал бы белый тепловой шум в приемнике, но по крайней мере это устанавливает верхнюю границу для Поэтому имеем

Это и есть верхняя граница, даваемая теоремой. Нижняя граница может быть получена при рассмотрении скорости передачи для случая, когда передаваемый сигнал является белым шумом мощности Р. При этом энтропийная мощность принимаемого сигнала должна быть не меньше энтропийной мощности белого шума, мощность которого равна так как в теореме 15 доказано, что энтропийная мощность суммы двух ансамблей больше или равна сумме отдельных энтропийных мощностей. Поэтому

и

С увеличением верхняя и нижняя границы, даваемые теоремой 18, сближаются, так что имеем в качестве асимптотической скорости

Если сам шум является белым, то и полученный результат сводится к формуле, доказанной ранее:

Если шум является гауссовским, но спектр его не обязательно равномерный, то является среднегеометрической мощностью шума по различным частотам в полосе Поэтому

где — мощность шума на частоте

Теорема 19. Если при данной мощности передаваемых сигналов Р пропускную способность канала обозначить через С, где

то окажется, что монотонно убывает с ростом Р, приближаясь в пределе к нулю.

Предположим, что при данной мощности пропускная способность канала равна

Это означает, что сигнал с наилучшим распределением, скажем будучи добавлен к шуму с распределением даст для принимаемого сигнала распределение энтропийная мощность которого равна Пусть мощность увеличена до путем добавления к сигналу белого шума мощности Энтропия принимаемого сигнала теперь равна по меньшей мере

что следует из применения теоремы о минимуме энтропийной мощности суммы двух ансамблей (теорема 15). Следовательно, так как можно достичь указанной величины Н, то энтропия максимизирующего распределения должна быть не меньше этой величины, а значит, должно монотонно убывать. Чтобы показать, что при величина рассмотрим сигнал, являющийся белым шумом мощности Р. Каков бы ни был искажающий шум, если Р достаточно велико, то принимаемый сигнал будет приблизительно белым шумом в том смысле, что его энтропийная мощность будет стремиться к