Глава 5. ЭФФЕКТИВНАЯ ПЕРЕДАЧА ПОСЛЕДОВАТЕЛЬНОСТЕЙ СООБЩЕНИЙ
В предыдущих главах была рассмотрена задача передачи одного сообщения, выбираемого случайно из некоторого конечного множества возможных сообщений. На практике, однако, чаще интересуются не системами, которые передают только одно сообщение, а затем прекращают передачу, а системами, которые в течение длительного времени передают одно за другим последовательные сообщения.
Несомненно, что передачу К сообщений, каждое из которых выбирается случайно из множества
возможных сообщений, можно рассматривать как передачу одного сообщения, выбираемого из множества
возможных сообщений. При таком подходе передача рассматривается как однократная передача «в один прием».
другой стороны, можно так переформулировать рассматривавшуюся до сих пор теорию однократной передачи, чтобы явно учитывать при анализе систем связи последовательный характер передачи сообщений. Это приведет нас к таким важным понятиям, как пропускная способность канала и эффективность связи. Кроме того, это даст нам возможность понять взаимосвязь между промежутком времени, шириной полосы частот, вероятностью ошибки и отношением сигпал/шум. В настоящей главе эти вопросы будут рассмотрены с теоретической точки зрения. В следующей главе мы обсудим некоторые аспекты проблемы реализации систем связи.
5.1. ИСТОЧНИКИ ПОСЛЕДОВАТЕЛЬНЫХ СООБЩЕНИЙ
Пусть имеется источник сообщений, который производит последовательность дискретных символов. Пас интересует, какова должна быть передающая система, которая могла бы передавать символы с выхода источника в некоторую отдаленную точку. Простейший случай — это когда источник производит с постоянной скоростью
статистически независимые и равновероятные двоичные символы 0 и 1. За любой промежуток времени кратный величине
этот источник генерирует последовательность из
двоичных символов, причем каждая из
возможных последовательностей генерируется с равной вероятностью. Например, если
то источник генерирует одну из следующих восьми последовательностей:
причем априорная вероятность каждой из этих последовательностей равна
Поэтому передатчик должен быть способен передать одпо из
равновероятных сообщений в течение каждого из последовательных интервалов времени длительности
сек.
СКОРОСТЬ ИСТОЧНИКА
В ситуациях, аналогичных рассмотренной выше, будем называть
скоростью источника и измерять ее числом двоичных символов (binary-digit, сокращенно bit) в секунду. Аналогично для любого другого источника, не обязательно двоичного, который в течение любого промежутка времени
генерирует одно из совокупности
равновероятных сообщений, определим скорость источника таким образом, чтобы соотношение
сохранялось, т. е. положим
Рассмотрим в качестве примера применения этого определения источник, который каждые
сек генерирует один символ, выбираемый из
-символьного алфавита. Если символы алфавита равновероятны и выбор последовательных символов производится статистически независимо, то за промежуток времени
источник задаст одно из
равновероятных сообщений. Поэтому скорость источника равна
Для того чтобы показать, что скорость источника является разумной мерой возможности передачи выходных сообщений источника, заметим, что, просто перенумеровав совокупность
сообщений и записав их номера в двоичной форме, мы тем самым преобразуем эту совокупность в совокупность двоичных последовательностей. Например, можно поступить так:
Любое входное сообщение может быть однозначно восстановлено по соответствующей ему переданной двоичной последовательности. При
представляющем собой степень 2, и равновероятных сообщениях получаемые таким образом последовательные двоичные символы статистически независимы и с равными вероятностями принимают значения 0 и 1. В этой книге мы ограничимся лишь вопросом о передаче двоичных последовательностей такого тина. Можно показать [27], что это ограпичение не влечет за собой существенной потери общности.
Важность попятия скорости источника (которую часто называют «информационной скоростью») становится ясной из следующего рассмотрения. Предположим, что мы имеем два независимых источника. Один из них в течение каждого промежутка времени, равного
сек, генерирует одно из
равновероятных сообщений, а второй — одно из
равновероятных сообщений. Если каждый источник связан с отдельным передатчиком, то эти передатчики должны быть способны вести передачу со скоростями, соответственно равными
С другой стороны, если оба источника одновременно связаны с одним и тем же передатчиком, то за время
этот передатчик должен передать одно из
сообщений и, следовательно, иметь возможность передавать со скоростью, равной
Важно, что в силу логарифмического характера определения скорости комбинированная скорость двух источников является суммой их индивидуальных скоростей.
Практическая ценность системы связи определяется (максимальной) скоростью источника, который она может обслужить: при прочих равных условиях система, имеющая скорость передачи данных, равную
с точки зрения возможностей передачи равноценна двум системам, каждая из которых имеет скорость
Отметим, однако, что система, по которой можно за единицу времени передать одно из
равновероятных сообщений, не эквивалентна двум системам, каждая из которых может передавать одно из
сообщений.
МОЩНОСТЬ ПЕРЕДАТЧИКА
В гл. 4, посвященной передаче одного сообщения, рассматривалась задача выбора сигналов, энергия которых ограничена величиной
Теперь мы будем рассматривать передачу последовательности сообщений (возможно, бесконечной), при которой ограничивать энергию не имеет смысла. Однако целесообразно и удобно ввести ограничение на среднюю мощность передатчика, которую мы обозначим через
Для сигнала
длительности
средняя мощность определяется следующим образом:
Поэтому если средняя мощность
ограничена, то эпергия, которая доступна передатчику, возрастает линейно со времепем.
Если скорость источника равна
можно считать, что каждые
сек генерируется один двоичный символ. Пусть средняя энергия ограничена величиной тогда допустимая энергия на бит (обозначим ее через
) равна
Средняя энергия на бит, которая требуется различным системам связи для достижения заданной стандартной помехоустойчивости, является некоторой мерой их относительной эффективности.