тепловым шумом мощности ограничена неравенством
где — допустимая пиковая мощность в передатчике. Для достаточно больших
где в стремится к нулю при При (и при условии, что полоса частот начинается от нуля)
Желательно максимизировать энтропию принимаемых сигналов. Если велико, то это будет приблизительно осуществляться тогда, когда энтропия передаваемого ансамбля достигает максимума.
Асимптотическая верхняя граница получается с помощью ослабления условий, наложенных на ансамбль. Предположим, что мощность ограничена величиной 5 не в каждый момент времени, а лишь в выборочных точках. Максимум энтропии передаваемого ансамбля при таких ослабленных условиях будет больше или равен максимуму при исходных условиях. Измененная таким образом задача может быть легко решена. Энтропия будет максимальной, если различные выборки независимы и имеют равномерное распределение на интервале — Энтропия при этом равна
Принимаемые сигналы будут тогда иметь энтропию, меньшую чем ,
причем в при и пропускная способность канала получается путем вычитания из этого выражения энтропии белого шума
Это и есть искомая верхняя граница для пропускной способности канала.
Чтобы получить нижнюю границу, рассмотрим тот же самый ансамбль функций. Пусть эти функции пропускаются через
идеальный линейный фильтр с треугольной характеристикой. Усиление должно быть единичным на нулевой частоте и линейно спадать до нуля на частоте Покажем сначала, что функции на выходе фильтра имеют пиковое ограничение во все моменты времени (а не только в выборочных точках). Заметим прежде всего, что импульс проходя через фильтр, дает на выходе
Эта функция всегда неотрицательна. Входная функция в общем случае может рассматриваться как сумма ряда сдвинутых функций
где амплитуда в момент выбора а не превосходит Поэтому выход представляет собой сумму сдвинутых неотрицательных функций указанного типа с теми же коэффициентами. Так как эти функции неотрицательны, то их наибольшее положительное значение для любого момента времени получается тогда, когда все коэффициенты а имеют максимальную положительную величину, т. е. . В этом случае входная функция представляет собой константу амплитуды а так как фильтр имеет единичное усиление для постоянной составляющей, то выход будет тот же самый. Поэтому выходной ансамбль имеет пиковую мощность
Энтропия выходного ансамбля может быть вычислена через энтропии входного ансамбля при помощи доказанной ранее теоремы. Выходная энтропия равна входной энтропии плюс среднегеометрическое усиление фильтра
Следовательно, выходная энтропия равна
и пропускная способность канала больше чем
Теперь требуется показать, что для малых (отношение пиковой мощности сигнала к средней мощности белого шума)
пропускная способность канала равна
Более точно при Так как средняя мощность сигнала Р меньше или равна пиковой мощности то отсюда следует, что для всех
Поэтому, если удастся найти ансамбль функций, соответствующих скорости передачи, близкой к и ограниченных полосой частот и пиковой мощностью то последняя часть теоремы будет доказана. Рассмотрим ансамбль функций следующего типа: пусть функций в последовательные моменты выбора принимают одинаковое значение (либо , либо ), в следующие моментов выбора опять имеют одинаковое значение и т. д. Знак для последовательности выбирается случайным образом: с вероятностью 1/2 берется и с вероятностью 1/2 берется Если этот ансамбль пропустить через фильтр с треугольной характеристикой усиления и равным единице усилением для постоянной составляющей, то выходной сигнал имеет пиковую мощность, не превосходящую Кроме того, средняя мощность близка к 5 и приближается к этому значению при увеличении Энтропия суммы этого ансамбля и теплового шума может быть найдена с помощью теоремы о сумме шума и малого сигнала. Эта теорема применима, если выражение
достаточно мало. Это можно обеспечить, взяв отношение достаточно малым (после того, как выбрано Энтропийная мощность со сколь угодно близким приближением будет равна , следовательно, скорость передачи может быть сделана сколь угодно близкой к