7. Пропускная способность канала при наличии белого теплового шума

Нетрудно получить некоторые количественные соотношения, получаемые при изменении произведения Предположим, что помеха в системе есть белый тепловой шум, ограниченный полосой Эта помеха, добавляясь к переданному сигналу, дает принятый сигнал. Белый тепловой шум характеризуется тем, что изменения каждого отсчета независимы от других и что распределение мгновенных значений подчинено гауссовскому закону со стандартным отклонением где — средняя мощность помехи. Сколько различных сигналов можно распознать на приемном конце, несмотря на наличие обусловленных помехой изменений? Грубая оценка может быть получена следующим образом. Если сигнал имеет мощность Р, то сигнал, измененный наложенной помехой, будет иметьмощность Число хорошо различимых значений есть

где К — небольшая константа порядка единицы, зависящая от того, как истолковывается термин «хорошо различимый». Если требуется очень хорошее различение, К будет малым, тогда как, если допускаются случайные ошибки, К будет больше. Так как за время Т имеется независимых значений, полное число различимых сигналов будет равно

Число битов, которое можно передать за время Т, равно и скорость передачи определяется как

Трудности, связанные с этим рассуждением, помимо его вообще приблизительного характера, состоят в подразумеваемом предположении, что для различения двух сигналов они должны отличаться в некоторой точке отсчета более чем на ожидаемое значение помехи. Рассуждение предрешает, что КИМ или нечто весьма сходное с КИМ есть наилучший метод кодирования двоичных цифр и превращения их в сигнал. В действительности два сигнала могут быть надежно различены, если разность между ними мала, но поддерживается неизменной на протяжении значительного промежутка времени. Каждый отсчет принятого сигнала дает при этом малое количество статистической информации о переданном сигнале; в совокупности эти статистические данные дают почти полную достоверность. Эта возможность дает улучшение около 8 дб по сравнению с (18) и позволяет разумно определить уверенную разделимость сигналов, как показано ниже. Теперь воспользуемся геометрическими представлениями для определения точного значения пропускной способности канала при наличии помехи.

Теорема 2. Пусть Р — средняя мощность передатчика и пусть помеха есть белый шум с мощностью в полосе частот Применяя достаточно сложную систему кодирования, можно передавать двоичные цифры со скоростью

со сколь угодно малой частотой ошибок. Никакой метод кодирования не допускает передачи с большей скоростью при произвольно малой частоте ошибок.

Таким обазом, величина вполне определенным образом измеряет способность канала передавать информацию. Это неожиданный результат, так как можно было бы ожидать, что уменьшение частоты ошибок требует соответствующего уменьшения скорости передачи и что последняя должна стремиться к нулю вместе с частотой ошибок. Фактически же можно вести передачу со скоростью С, уменьшая ошибки применением более сложного кодирования и введением более длительных задержек в передатчике и приемнике. На передающем конце будем брать длинную последовательность двоичных цифр и представлять всю такую последовательность в целом специальной функцией сигнала большой длительности. При этом потребуется задержка, так как сигнал определяется только по окончании всей последовательности. Аналогично на

приемном конце передаваемая последовательность может быть восстановлена лишь после того, как принята полностью вся функция соответствующего сигнала.

Докажем теперь теорему 2. В геометрической интерпретации каждая точка сигнала окружена небольшой областью неопределенности, обусловленной помехой. При белом шуме изменения отдельных отсчетов (т. е. координат) являются гауссовскими и независимыми. Т аким образом, вероятность смещения с координатами (разностями между координатами принятого и переданного сигналов) рвна произведению вероятностей отдельных координат

Так как эта величина зависит только от

то вероятность данного изменения зависит только от расстояния, от исходного сигнала, но не от направления. Другими словами, область неопределенности сферична по своей природе. Хотя для малого числа измерений эта область нерезко ограничена, граница становится все более и более определенной по мере возрастания числа измерений. Это обусловлено тем, что квадрат смещения сигнала равен средней мощности помехи за время Т, умноженной на . С увеличением Т средняя мощность приближается к Таким образом, при больших Т сигнал будет смещаться в точку, лежащую около сферической поверхности радиуса с центром в начале координат. Точнее говоря, если взять Т достаточно большим, то с вероятностью, сколь угодно мало отличающейся от 1, смещение будет находиться внутри сферы радиуса , где сколь угодно мало. Области неопределенности при очень большом можно себе представить грубо как правильные биллиардные шары. Принятые сигналы имеют среднюю мощность и в том же смысле должны почти все лежать на поверхности сферы радиуса Сколько имеется при таких условиях различимых сигналов? Ясно, не более чем объем сферы радиуса деленный на объем сферы радиуса так как пересечение сфер помехи означало бы смещение сообщений на приемном конце. Объем -мерной сферы радиуса равен

Таким образом, верхний предел для числа различимых сигналов есть

откуда пропускная способность канала

Это доказывает второе утверждение теоремы.

Для доказательства первой части теоремы нужно показать, что существует система кодирования, обеспечивающая передачу со скоростью бит/сек при частоте ошибок, меньшей где произвольно мало. Рассматриваемая система действует следующим образом. Длинная последовательность, содержащая, скажем, двоичных цифр, воспринимается передатчиком. Всего может быть таких последовательностей, и каждой из них соответствует специальная функция сигнала длительностью Т. Следовательно, имеется различных функций сигнала. Когда данная последовательность из цифр закончена, передатчик начинает посылать соответствующий сигнал. Приемник принимает искаженный сигнал, сравнивая его с каждым из М возможных переданных сигналов и выбирая тот из них, к которому принятый сигнал ближе всего (в смысле среднеквадратичной ошибки). Затем на выходе приемника воспроизводится соответствующая этому сигналу последовательность двоичных цифр. Таким образом, получается общая задержка на 27.

Для обеспечения частоты ошибок, меньшей функций сигнала должны достаточно далеко отстоять друг от друга. Действительно, надо выбрать их так, чтобы, когда принят искаженный сигнал, ближайшая сигнальная точка в геометрической интерпретации соответствовала истинному переданному сигналу с вероятностью, большей чем 1—е.

Получается, как ни странно, что достигается наилучший результат, если выбрать М функций сигнала наудачу из числа всех точек внутри сферы радиуса Физически это соответствует тому случаю, когда в качестве функций сигнала берутся М различных выборок ограниченного по полосе белого шума.

Некоторый определенный выбор М точек в сфере означает определенный способ кодирования. Общая схема доказательства состоит в рассмотрении всех таких выборов с целью показать, что частота ошибок, усредненная по всем выборам, меньше е. Это покажет, что в совокупности выборов существуют определенные выборы, для которых частота ошибок меньшее. Конечно, будут и другие выборы с большой частотой ошибок.

Геометрические соотношения показаны на рис. 5, представляющем собой плоское сечение многомерной сферы, определяемой типичным переданным сигналом В, принятым сигналом А и центром в О. Переданный сигнал лежит очень близко к поверхности сферы радиуса так как в сфере большого числа измерений почти весь объем сосредоточивается около поверхности. Аналогично принятый сигнал лежит на поверхности сферы радиуса

Рис. 5. Геометрическая интерпретация теоремы 2.

Многомерная чечевицеобразная область есть область возможных сигналов, породивших А, так как расстояние между переданным и принятым сигналом почти наверняка очень близко к Область имеет меньший объем, чем сфера радиуса Можно определить приравняв вычисленные двумя различными способами площади треугольника

откуда

Вероятность любой определенной сигнальной точки (отличной от истинного сигнала, породившего А), лежащей в поэтому меньше, чем отношение объемов сфер с радиусами так как в нашем ансамбле систем кодирования выбраны точки наудачу из числа точек внутри сферы радиуса Это отношение равно

Имеется М точек сигнала. Таким образом, вероятность что все они, за исключением точки истинного сигнала, находятся вне больше чем

Если точки лежат вне сигнал воспроизводится правильно. Поэтому, если сделать больше чем частота ошибок будет меньше е. Это будет справедливо, если

Но всегда больше, чем если положительно. Поэтому (25) будет верно, если

или если

или же если

Для любого данного это неравенство можно удовлетворить, выбирая достаточно большое Т. При этом и или будет скольугодно близок к Это показывает, что при случайном выборе сигнальных точек можно получить сколь угодно малую частоту ошибок и передавать со скоростью, сколь угодно близкой к С. Можно также передавать в точности со скоростью С при произвольно малом так как добавочные двоичные цифры вовсе не нужно Передавать — они могут случайным образом добавляться на приемном конце. Это лишь добавляет еще одну произвольно малую величину к е. Этим завершается доказательство.