1.8. Передача информации по каналу с помехами

При передаче информации через канал с помехами сообщения искажаются и на приемной стороне нет полной уверенности в том, что принято именно то сообщение, которое передавалось. Следовательно, сообщение недостоверно, вероятность его после приема не равна единице.

В этом случае количество получаемой информации уменьшается на величину неопределенности, вносимой помехами, т. е. определяется как разность энтропии сообщения до и после приема: где энтропия источника сообщений; энтропия сообщений на приемной стороне. Уменьшение количества получаемой информации вследствие действия помех рассмотрим на примере передачи сообщений о состоянии двухпозиционного контролируемого объекта (включен, выключен).

Пусть вероятности включенного и выключенного состояния соответственно равны: Вероятность того, что при передаче состояния «выключено» принимается информация о включенном состоянии, Соответственно другие условные вероятности следующие: где величина условная вероятность того, что при передаче сообщения будет принято сообщение

Вычисленная по формулам (1.13), (1.16; с учетом (1.8) энтропия

Таким образом, за счет вносимых помех количество информации уменьшается: [бит]. Разделив на время передачи

одиночного сообщения, получим выражение для скорости передачи по каналу связи с помехами:

Пропускной способностью канала с шумами называется максимальная скорость передачи информации на символ или в единицу времени при условии, что канал связи без помех согласован с источником информации:

Если энтропия источника информации не превышает пропускной способности канала то существует код, обеспечивающий передачу информации через канал с помехами со сколь угодно малой частотой ошибок или сколь угодно малой недостоверностью. В работе [137] определена пропускная способность канала связи при ограниченной средней мощности аналогового сигнала:

где - полоса частот канала; средняя мощность сигнала; — средняя мощность помех (равномерный спектр) с нормальным законом распределения амплитуд в полосе частот канала связи.

Следовательно, можно передавать информацию по каналу с помехами без ошибок, если скорость передачи информации

Для скорости при любой системе кодирования частота ошибок конечная, причем она быстро растет с увеличением

Из последнего выражения следует, что для канала с весьма высоким уровнем шумов максимальная скорость передачи близка к нулю. При Максимальное количество информации, передаваемое за время (объем сигнала).