Пред.
След.
Макеты страниц
Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике § 4.3. Каналы с непрерывным временем. Обратная теорема кодированияДо сих пор мы рассматривали лишь такие модели каналов, для которых предполагалось, что изменения значений входных и выходных сигналов происходят в дискретные моменты времени. Однако реально передаваемый и принимаемый в физическом канале сигналы могут представлять собой непрерывно меняющиеся во времени функции. Предположение о том, что время в канале дискретно, фактически означает, что реальные сигналы непрерывного канала подвергаются некоторой промежуточной обработке, дискретизации. Теперь мы хотим рассмотреть более общую модель канала связи, не делая предположений о наличии дискретизирующих устройств. Вероятностное описание таких непрерывных каналов, входные и выходные сигналы которых могут быть произвольными функциями времени, опирпется на понятие случайного процесса непрерывного времени (см. § 2.6). Определение 4.3.1. Непрерывным каналом с непрерывным временем (или просто непрерывным каналом) называется канал, входные и выходные сигналы которого могут быть произвольными функциями времени. Если на входе канала фиксирована некоторая функция Вообще говоря, множество возможных входных сигналов канала бесконечно — и несчетно. Поэтому задание непрерывного канала в общем случае требует задания несчетного множества случайных процессов Определение 4.3.2. Непрерывным каналом с аддитивным шумом называется такой непрерывный канал, процесс выходе которого при любой фиксированной функции
где Таким образом, непрерывный канал с аддитивным шумом полностью определяется только одним случайным процессом, а именно шумом. При любой фиксированной функции Введем теперь понятие кода для непрерывного канала непрерывного времени. Определение 4.3.3. Пусть
то будем говорить, что код удовлетворяет ограничению
называется скоростью, а число Данное определение, по существу, не отличается от аналогичных определений в случае каналов дискретного времени. Как и раньше, кодовые слова представляют собой сигналы, с помощью которых передаются сообщения, а множества Для каждого кода определена вероятность ошибки при передаче слова
Кроме того, определены средняя К и максимальная Пропускная способность С непрерывного канала при ограничении на среднюю мощность сигналов на входе определяется аналогично пропускной способности непрерывных каналов с дискретным временем (см. определение 4.1.2). Информационная емкость С непрерывных каналов при ограничении на среднюю мощность сигналов на входе, вообще говоря, определяется таким же образом, как и в случае каналов с дискретным временем. Мы приведем это определение, не вдаваясь в детали. Более подробное обсуждение будет дано в случае каналов с аддитивным белым гауссовским шумом с ограничением на полосу частот. Определение 4.3.4. Пусть
где верхняя грань разыскивается по всем
называется информационной емкостью непрерывного канала при ограничении Докажем теперь обратную теорему кодирования. Как и раньше, основным инструментом доказательства является неравенство Фано. Теорема 4.3.1 (обратная теорема кодирования для непрерывных каналов при ограничении на среднюю мощность сигналов на входе). Пусть С — информационная емкость указанного выше канала при ограничении Доказательство. Зафиксируем
то и сам процесс
где Наша цель по-прежнему состоит в том, чтобы показать, что по крайней мере в некоторых случаях, пропускная способность непрерывного канала равна его информационной емкости, а также в том, чтобы указать метод вычисления информационной емкости. В общем случае эта задача является весьма сложной. Для упрощения доказательств и для получения наглядных результатов мы ограничимся рассмотрением одного частного вида каналов, а именно непрерывных каналов с аддитивным белым гауссовским шумом и ограничением на полосу частот. Говорят, что в канале действует аддитивный белый гауссовский шум, если шумовой процесс
являются совместно гауссовскими и статистически независимыми. Математическое ожидание каждой из с. в. (4.3.8) равно нулю, а дисперсия равна Предположим теперь, что некоторая функция
где Действительно, пусть
Число Поскольку
и так как функция равна единице при Слова «почти весь спектр» требуют, вообще говоря, уточнения, которое может быть сделано с помощью так называемых эллиптических функций вытянутого сфероида. Мы отсылаем интересующегося читателя к книге Таким образом, мы приходим к модели непрерывного канала с аддитивным белым гауссовским шумом и ограничениями на среднюю мощность и на полосу частот входных сигналов. Код для такого канала определяется так же, как в определении 4.3.3, с тем только отличием, что каждое кодовое слово дополнительно удовлетворяет ограничению
Теорема 4.3.2. Информационная емкость
где Доказательство. Напомним вначале, что средняя взаимная информация между двумя случайными процессами
где
и
и, следовательно,
Так как
являются в совокупности гауссовскими и статистическими независимыми с. в., причем математическое ожидание каждой из этих с. в. равно нулю, а дисперсия равна
Тогда
причем с. в. Из равенства (4.3.16) следует, что для вычисления средней взаимной информации между процессами условии, что Если процесс
то из (4.3.11) и из ортонормальности функций
т. е. последовательность случайных величин
Из определения информационной емкости следует, что
где в последнем выражении верхняя грань разыскивается по всем
где множество
Теперь из (4.3.22)-(4.3.24) следует выражение (4.3.12). Теорема доказана. Таким образом, мы получили, что информационная емкость непрерывного канала с аддитивным белым гауссовским шумом при ограничениях на среднюю мощность и на полосу частот определяется формулой (4.3.12) и не зависит от выбора системы ортонормированных функций, устанавливающих вид возможных сигналов на входе канала, а зависит только от числа
Для непрерывного канала с аддитивным белым гауссовским шумом при ограничениях на среднюю мощность и полосу частот входных сигналов остается справедливой обратная теорема кодирования. Она устанавливает, что для всякого кода, удовлетворяющего ограничениям на среднюю мощность и полосу частот и имеющего скорость Теорема 4.3.3 (обратная теорема кодирования для непрерывных каналов с аддитивным белым гауссовским шумом при ограничениях на среднюю мощность и полосу частот сигналов на входе). Пусть
|
1 |
Оглавление
|