
(кликните для просмотра скана)
с выхода кодера поступает на второй блок, называемый модулятором, или генератором сигнала: 
 
Изучим сначала, как меняется сложность модулятора в зависимости  Рассмотрим случай, когда каждые
 Рассмотрим случай, когда каждые  сек на вход передатчика поступает новое сообщение и на выходе генерируется новый сигнал. Если совокупность
 сек на вход передатчика поступает новое сообщение и на выходе генерируется новый сигнал. Если совокупность  представляет собой последовательность неперекрывающихся во времени одинаковых по форме импульсов длительности
 представляет собой последовательность неперекрывающихся во времени одинаковых по форме импульсов длительности  (пример такой последовательности изображен на фиг. 6.2), то для генерации сигнала можно использовать последовательно
 (пример такой последовательности изображен на фиг. 6.2), то для генерации сигнала можно использовать последовательно  раз один и тот же генератор сигнала и один и тот же амплитудный модулятор. С другой стороны,
 раз один и тот же генератор сигнала и один и тот же амплитудный модулятор. С другой стороны,  может представлять собой небольшую совокупность ортонормальных функций конечной длительности, таких, например, как представленные на фиг. 6.3 отрезки синусоид
 может представлять собой небольшую совокупность ортонормальных функций конечной длительности, таких, например, как представленные на фиг. 6.3 отрезки синусоид  и полученных из них соответствующим сдвигом неперекрывающихся функций. Так как отношение
 и полученных из них соответствующим сдвигом неперекрывающихся функций. Так как отношение  постоянно, то в обоих случаях сложность генерирующего каскада передатчика практически не зависит от
 постоянно, то в обоих случаях сложность генерирующего каскада передатчика практически не зависит от  
 
Для кодирующего каскада передатчика это не так. Однако далее мы увидим, что можно построить эффективный кодер, сложность которого зависит от  лишь линейно.
 лишь линейно. 
ЗАДАЧА КОДИРОВАНИЯ
 
Первая задача, возникающая при конструировании кодера, — это хранение поступивших сообщений. Как и в гл. 5, мы предполагаем, что сообщение  поступающее на вход кодера в течение каждого из интервалов времени длительности
 поступающее на вход кодера в течение каждого из интервалов времени длительности  сек, представляет собой последовательность
 сек, представляет собой последовательность  из
 из  двоичных символов. Последовательность
 двоичных символов. Последовательность  может быть любым из
 может быть любым из  возможных векторов совокупности
 возможных векторов совокупности  компоненты которых принимают значения 0 и 1. Можно наглядно представлять себе, что новый двоичный символ последовательности
 компоненты которых принимают значения 0 и 1. Можно наглядно представлять себе, что новый двоичный символ последовательности  поступает на передатчик каждые
 поступает на передатчик каждые  секунд. В этом случае кодер должен иметь устройство для приема и запоминания вектора
 секунд. В этом случае кодер должен иметь устройство для приема и запоминания вектора  по мере поступления его компонент. Для этой цели удобно использовать регистр сдвига; в каждых! момент поступления в регистр сдвига нового двоичного символа, как показано на фиг. 6.4, число, хранящееся в данном разряде, переходит в соседний разряд справа. Так как К пропорционально
 по мере поступления его компонент. Для этой цели удобно использовать регистр сдвига; в каждых! момент поступления в регистр сдвига нового двоичного символа, как показано на фиг. 6.4, число, хранящееся в данном разряде, переходит в соседний разряд справа. Так как К пропорционально  и, следовательно,
 и, следовательно,  то сложность такого регистра сдвига линейно зависит от
 то сложность такого регистра сдвига линейно зависит от  
 
Кроме запоминания поступающего векторного сообщения, кодер должен выполнять соответствующее преобразование:  Эта задача далеко не тривиальна. Действительно, вполне может оказаться, что соответствующий кодер невыполним с технической точки зрения. Чтобы убедиться в этом, найдем порядки некоторых характерных величин; так как
 Эта задача далеко не тривиальна. Действительно, вполне может оказаться, что соответствующий кодер невыполним с технической точки зрения. Чтобы убедиться в этом, найдем порядки некоторых характерных величин; так как 
 
то общее число векторов совокупности  необходимых для передачи, становится огромным при больших
 необходимых для передачи, становится огромным при больших  Например, если
 Например, если  то
 то  .
. 
Очевидно, что если каждый из  векторов
 векторов  выбирается произвольно из кодового базиса, то при больших К построить кодер невозможно. (Как и в гл. 5, под кодовым базисом мы понимаем совокупность всех
 выбирается произвольно из кодового базиса, то при больших К построить кодер невозможно. (Как и в гл. 5, под кодовым базисом мы понимаем совокупность всех  -мерных векторов в количестве
-мерных векторов в количестве  компоненты которых принимают одно из значений А — буквенного алфавита передатчика
 компоненты которых принимают одно из значений А — буквенного алфавита передатчика  Для построения такого кодера требуется запомнить каждый из выбранных векторов в виде представленной на фиг. 6.5 упорядоченной таблицы с
 Для построения такого кодера требуется запомнить каждый из выбранных векторов в виде представленной на фиг. 6.5 упорядоченной таблицы с  входами и обращаться
 входами и обращаться 
 
 
Фиг. 6А. Хранящиеся в памяти символы входного сообщения сбрасываются после исхода из правого разряда К-разрядного двоичного регистра сдвига. 
 
Фиг. 6.5. Запоминающая таблица для произвольного кода. 
 строке таблицы
 строке таблицы  когда на вход кодера поступает сообщение
 когда на вход кодера поступает сообщение  Сложность устройства, хранящего в памяти такую таблицу, пропорциональна объему таблицы
 Сложность устройства, хранящего в памяти такую таблицу, пропорциональна объему таблицы  Этот объем увеличивается с ростом временного интервала
 Этот объем увеличивается с ростом временного интервала  как
 как  Объем памяти, требуемый устройством, просто слишком велик.
 Объем памяти, требуемый устройством, просто слишком велик. 
С другой стороны, верхняя граница для вероятности ошибки  ди сих пор была получена лишь при рассмотрении средней вероятности ошибки в ансамбле всех
 ди сих пор была получена лишь при рассмотрении средней вероятности ошибки в ансамбле всех  возможных кодов. Ранее мы установили (ср. стр. 278), что большинство кодов в этом ансамбле должно быть хорошим. По мы также знаем, что некоторые из этих кодов, например коды, для которых все сигналы
 возможных кодов. Ранее мы установили (ср. стр. 278), что большинство кодов в этом ансамбле должно быть хорошим. По мы также знаем, что некоторые из этих кодов, например коды, для которых все сигналы  одинаковые, плохие. Можно представить себе ситуацию, когда все коды, которые можно легко построить, плохи и хороши лишь коды, для построения которых нужна память в виде таблицы. Итак, перед нами стоит следующая проблема: существует ли практически реализуемый код, для которого вероятность ошибки удовлетворяет полученной нами верхней оценке.
 одинаковые, плохие. Можно представить себе ситуацию, когда все коды, которые можно легко построить, плохи и хороши лишь коды, для построения которых нужна память в виде таблицы. Итак, перед нами стоит следующая проблема: существует ли практически реализуемый код, для которого вероятность ошибки удовлетворяет полученной нами верхней оценке. 
 
СХЕМА ВЫЧИСЛЕНИЯ R0
 
Существует следующий путь, ведущий к выходу из этого затруднения; оказывается, что полученная нами верхняя оценка для вероятности ошибки справедлива для меньшего ансамбля систем связи, каждая из которых использует легко реализуемый код. Чтобы доказать это, выясним более точно условия, при которых выполняется неравенство 
 
Исходным для получения этого неравенства является аддитивное неравенство [см. соотношение  ]
] 
 
где  вероятность ошибки при использовании для передачи одного из двух равновероятных сообщений вектора
 вероятность ошибки при использовании для передачи одного из двух равновероятных сообщений вектора  а для передачи второго — вектора
 а для передачи второго — вектора  Для ансамбля систем связи, выбираемого таким образом, чтобы среднее значение величины
 Для ансамбля систем связи, выбираемого таким образом, чтобы среднее значение величины  было независимо от
 было независимо от  и к ограничено неравенством
 и к ограничено неравенством 
 
подстановка соотношения  в
 в  дает
 дает 
 
откуда в свою очередь следует  Поэтому критическим свойством ансамбля, на котором основап вывод соотношения
 Поэтому критическим свойством ансамбля, на котором основап вывод соотношения  является выполнение неравенства
 является выполнение неравенства  
 
Для ансамбля кодов, рассмотренного в гл. 5, выполнение соотношения  при всех
 при всех  и к гарантируется самим характером задания вероятностей
 и к гарантируется самим характером задания вероятностей  кодов в ансамбле; вероятность того, что некоторый вектор кодового базиса будет выбран в качестве сигнала не зависит ни от
 кодов в ансамбле; вероятность того, что некоторый вектор кодового базиса будет выбран в качестве сигнала не зависит ни от  , ни от того, какие векторы кодового базиса выбраны в качестве остальных
, ни от того, какие векторы кодового базиса выбраны в качестве остальных  сигналов совокупности
 сигналов совокупности  . Как следствие этого математическое ожидание
. Как следствие этого математическое ожидание 
 
не зависит от  . Кроме того, вследствие статистической независимости векторов
. Кроме того, вследствие статистической независимости векторов  означающей, что
 означающей, что 
 
из кодового базиса, (6.11а) а так же независимости компонент каждого из векторов  
 
 
можно вычислить численное значение  
 
Рассмотрим теперь два различных ансамбля систем связи, таких, что вероятности событий  для одного ансамбля такие же, что и для другого ансамбля. Если это верно при всех
 для одного ансамбля такие же, что и для другого ансамбля. Если это верно при всех  и для всех векторов
 и для всех векторов  из кодового базиса, ясно, что средняя вероятность
 из кодового базиса, ясно, что средняя вероятность  для обоих ансамблей одинакова. Таким образом, для того чтобы вероятность ошибки
 для обоих ансамблей одинакова. Таким образом, для того чтобы вероятность ошибки