Примечания
1 (к
§ 10.1). Под «приемом в целом» в этой главе, как обычно, понимается метод
приёма, в котором решающая схема анализирует целиком отрезок сигнала,
соответствующий кодовой комбинации. Иногда говорят о приёме в целом, понимая
под этим анализ сигнала, соответствующего всему передаваемому сообщению. Легко
показать, что если любая последовательность кодовых комбинаций в этом сигнале
имеет одинаковую априорную вероятность, то такой приём всего сигнала не имеет
никаких преимуществ перед приёмом в целом отдельных комбинаций, аналогично
тому, как в коде без избыточности (когда все последовательности символов
допустимы и равновероятны) приём в целом не имеет преимуществ перед
поэлементным приёмом. 
В
действительности для многих источников не все последовательности кодовых
комбинаций равновероятны. Это является следствием избыточности алфавита
источника. Однако эту избыточность обычно трудно использовать для повышения
вероятности приёма. Заметим, что для канала с памятью, в котором величины  коррелированы,
если к тому же не выполнено условие (10.17), приём в целом может иметь
преимущество перед поэлементным приёмом, даже при примитивном кодировании.
 коррелированы,
если к тому же не выполнено условие (10.17), приём в целом может иметь
преимущество перед поэлементным приёмом, даже при примитивном кодировании. 
2 (к
§ 10.2 и 10.3). Основная трудность при реализации приёма в целом и приближающихся
к нему методов приёма заключается в необходимости запоминать непрерывные
(континуальные) величины  получаемые при обработке отдельных
элементов сигнала либо их суммы. Для этого нужны аналоговые запоминающие
устройства (например, сумматоры на рис. 10.2 и 10.3), которые труднее
выполнить, чем дискретные, используемые при поэлементном приёме. Эта задача
упрощается, если приём в целом применяется для сигналов с параллельным
кодированием (см. §9.6), так как в этом случае результаты демодуляции
 получаемые при обработке отдельных
элементов сигнала либо их суммы. Для этого нужны аналоговые запоминающие
устройства (например, сумматоры на рис. 10.2 и 10.3), которые труднее
выполнить, чем дискретные, используемые при поэлементном приёме. Эта задача
упрощается, если приём в целом применяется для сигналов с параллельным
кодированием (см. §9.6), так как в этом случае результаты демодуляции  вырабатываются
одновременно и их не приходится длительно хранить.
 вырабатываются
одновременно и их не приходится длительно хранить. 
Заметим,
что сложные (широкополосные) сигналы, о которых говорилось в гл. 7 и 8, можно
также рассматривать как результат последовательного или параллельного
кодирования наиболее избыточным кодом  , считая одну из составляющих информационным
элементом, а все остальные – проверочными. При таком подходе [13] различные
методы приёма таких сигналов сводятся также к оптимальному когерентному приёму
в целом, некогерентному приёму в целом (с когерентным или некогерентным
накоплением) и к поэлементному приёму. Такая же точка зрения возможна и при исследовании
разнесённого приёма [14]. При этом оптимальное когерентное сложение
представляет собой не что иное, как когерентный приём в целом, квадратичное сложено
- некогерентный приём в целом с некогерентным накоплением, метод выбора при
разнесённом приёме оказывается частным случаем декодирования по наиболее
надёжным символам, а метод дискретного сложения является поэлементным приёмом с
исправлением ошибок. Такой единый подход к различным проблемам приёма сигналов
очень полезен, так как он позволяет непосредственно применить результаты,
полученные в области, для решения многих других задач. Кроме того он наводит на
мысль о возможности применения некоторых методов (главным образом субоптимальных),
разработанных для какого-либо одного случая (например, для разнесённого приёма)
к построению новых систем в других областях (например, при уплотнении и
объединении каналов и т.д.).
, считая одну из составляющих информационным
элементом, а все остальные – проверочными. При таком подходе [13] различные
методы приёма таких сигналов сводятся также к оптимальному когерентному приёму
в целом, некогерентному приёму в целом (с когерентным или некогерентным
накоплением) и к поэлементному приёму. Такая же точка зрения возможна и при исследовании
разнесённого приёма [14]. При этом оптимальное когерентное сложение
представляет собой не что иное, как когерентный приём в целом, квадратичное сложено
- некогерентный приём в целом с некогерентным накоплением, метод выбора при
разнесённом приёме оказывается частным случаем декодирования по наиболее
надёжным символам, а метод дискретного сложения является поэлементным приёмом с
исправлением ошибок. Такой единый подход к различным проблемам приёма сигналов
очень полезен, так как он позволяет непосредственно применить результаты,
полученные в области, для решения многих других задач. Кроме того он наводит на
мысль о возможности применения некоторых методов (главным образом субоптимальных),
разработанных для какого-либо одного случая (например, для разнесённого приёма)
к построению новых систем в других областях (например, при уплотнении и
объединении каналов и т.д.). 
3 (к
§ 10.4). Первое неравенство в (10.27) очевидно. Остановимся на
доказательстве второго неравенства. 
Рассмотрим
все образцы не обнаруживаемых ошибок. Для того чтобы при приёме в целом
произошла ошибка (событие  ) необходимо и достаточно, чтобы
для символов, соответствующих единицам в одном из этих образцов, было выполнено
неравенство (10.21). Обозначим через
) необходимо и достаточно, чтобы
для символов, соответствующих единицам в одном из этих образцов, было выполнено
неравенство (10.21). Обозначим через  
  событие, заключающееся в том, что
для
 событие, заключающееся в том, что
для  -ого
образца не обнаруживаемой ошибки (10.21) выполнено. Тогда
-ого
образца не обнаруживаемой ошибки (10.21) выполнено. Тогда  эквивалентно
осуществлению хотя бы одного из событий
 эквивалентно
осуществлению хотя бы одного из событий  .
. 
Если
некоторый  -й
образец является суммой
-й
образец является суммой  -го и
-го и  -го образцов не обнаруживаемой
ошибки, то событие
-го образцов не обнаруживаемой
ошибки, то событие  может произойти только в случае,
когда имеет место хотя бы одно из событий,
может произойти только в случае,
когда имеет место хотя бы одно из событий,  или
 или  . Отсюда следует, что для
события
. Отсюда следует, что для
события  необходимо
и достаточно, чтобы осуществилось хотя бы одно из
 необходимо
и достаточно, чтобы осуществилось хотя бы одно из  событий
 событий  , относящихся к
образцам ошибки, не представимым в виде суммы других образцов. Поскольку
вероятность каждого из событий
, относящихся к
образцам ошибки, не представимым в виде суммы других образцов. Поскольку
вероятность каждого из событий не больше, чем
 не больше, чем  , то
, то 
 
что
и требовалось доказать. 
4 (к
§ 10.7). Приведём вывод правила (10.46) для кода, допускающего
мажоритарное декодирование по системе разделённых проверок (10.45) и (10.45а).
Будем полагать, что символам  соответствуют результаты
демодуляции
 соответствуют результаты
демодуляции  ,
которые взаимно независимы и пропорциональны логарифму отношения правдоподобия
при поэлементном приёме:
,
которые взаимно независимы и пропорциональны логарифму отношения правдоподобия
при поэлементном приёме:
 (10.59)
                 (10.59)
где  - коэффициент
пропорциональности;
 - коэффициент
пропорциональности;  - принимаемый элемент сигнала,
соответствующий символу
 - принимаемый элемент сигнала,
соответствующий символу  . Заметим, что во всякой
оптимальной схеме поэлементного приёма двоичных сигналов результаты демодуляции
если не выражаются формулой (10.59), то во всяком случае являются монотонными
обратимыми функциями отношения правдоподобия. Поэтому их можно преобразовать в
величины
. Заметим, что во всякой
оптимальной схеме поэлементного приёма двоичных сигналов результаты демодуляции
если не выражаются формулой (10.59), то во всяком случае являются монотонными
обратимыми функциями отношения правдоподобия. Поэтому их можно преобразовать в
величины  ,
представляемые этой формулой.
,
представляемые этой формулой. 
Найдём
отношение правдоподобие для символа  , предполагая известными
, предполагая известными  и все
 и все  ,
соответствующие символам в правых частях системы (10.45). При этом будем
считать, что символы
,
соответствующие символам в правых частях системы (10.45). При этом будем
считать, что символы  могут принимать значения 0 или 1 ,
с тем единственным ограничением, что уравнения (10.45) при заданном
 могут принимать значения 0 или 1 ,
с тем единственным ограничением, что уравнения (10.45) при заданном  должны
выполняться. Это значит, что при
 должны
выполняться. Это значит, что при  среди
 среди 
 , входящих в одно уравнение, должно
быть чётное число единиц (или ни одной единицы), а при
, входящих в одно уравнение, должно
быть чётное число единиц (или ни одной единицы), а при  - нечётное число единиц.
 - нечётное число единиц.
Отношения
правдоподобия для  при этих условиях равно
 при этих условиях равно 
 (10.60)
                         (10.60)
Плотности,
входящие в произведение в правой части (10.60), зависят от неизвестных
параметров  .
Используя обобщённый критерий максимального правдоподобия, заменим числитель и
знаменатель (10.60) их максимальными значениями варьируя значениями символов
.
Используя обобщённый критерий максимального правдоподобия, заменим числитель и
знаменатель (10.60) их максимальными значениями варьируя значениями символов  с учётом
связей, налагаемых уравнениями (10.45), другими словами, будем полагать, что
 с учётом
связей, налагаемых уравнениями (10.45), другими словами, будем полагать, что  , если
, если 
 
Логарифмируя
это неравенство, запишем правило решения в виде 
 (10.61)
                         (10.61)
Рассмотрим одно
из слагаемых первой суммы 
 (10.61а)
                        (10.61а) 
Для отыскания
максимума необходимо перебрать все возможные наборы значений  ,
удовлетворяющие уравнениям (10.45), т.е. содержащие чётное число единиц. Если
это условие выполнено и значения
,
удовлетворяющие уравнениям (10.45), т.е. содержащие чётное число единиц. Если
это условие выполнено и значения  фиксированы, то
 фиксированы, то 
 
 
Вводя вместо  величины
 величины  аналогично
(10.6), точнее, полагая
 аналогично
(10.6), точнее, полагая  при
 при  и
 и  при
 при  , можно
переписать (10.61а) следующим образом:
, можно
переписать (10.61а) следующим образом: 
 
где  и
 и  , а через
, а через  обозначено
множество последовательностей
 обозначено
множество последовательностей  
  , содержащих чётное число
отрицательных значений.
, содержащих чётное число
отрицательных значений. 
Аналогично могут
быть представлены и слагаемые второй суммы в (10.61), с той лишь разницей, что
максимизировать нужно по  , где
, где  - множество
последовательностей
- множество
последовательностей  , содержащее нечётное число
отрицательных значений.
, содержащее нечётное число
отрицательных значений. 
Подставляя эти
выражения в (10.61), а также учитывая (10.59), получим после очевидных
преобразований следующее правило решения о том, что  :
: 
 (10.62)
                           (10.62)
Отыщем теперь
значения входящих в эту формулу максимумов. Предположим, что при некотором
значении  ,
т.е. для членов некоторого уравнения из системы (10.45), среди
,
т.е. для членов некоторого уравнения из системы (10.45), среди  имеется чётное
число отрицательных. Тогда для того, чтобы максимизировать первую сумму (при
 имеется чётное
число отрицательных. Тогда для того, чтобы максимизировать первую сумму (при  ), достаточно
положить все
), достаточно
положить все  ,
соответствующие положительным
,
соответствующие положительным  равными
 равными  , а остальные
, а остальные  - равными
 - равными  .
. 
В результате
первый максимум окажется равным  При максимизации второй суммы (при
 При максимизации второй суммы (при
 )
не удаётся сделать положительными все
)
не удаётся сделать положительными все  , так как число отрицательных
значений
, так как число отрицательных
значений  в
данном приёме чётное, а число отрицательных
 в
данном приёме чётное, а число отрицательных  должно быть нечётным. Очевидно,
что при этих условиях максимум второй суммы будет иметь место, если в ней будет
отрицательным один член, имеющий наименьшую абсолютную величину. Таким образом,
максимум второй суммы будет равен
 должно быть нечётным. Очевидно,
что при этих условиях максимум второй суммы будет иметь место, если в ней будет
отрицательным один член, имеющий наименьшую абсолютную величину. Таким образом,
максимум второй суммы будет равен  , где
, где  - наименьшее значение
модуля
- наименьшее значение
модуля  при
данном
 при
данном  и
при
 и
при  
 
Рассуждая
аналогично для случая, когда среди  имеется нечётное число отрицательных,
легко убедиться, что максимум первой суммы будет равен
 имеется нечётное число отрицательных,
легко убедиться, что максимум первой суммы будет равен 
 ,
 ,
а максимум
второй суммы равен  . Замечая также, что функция
. Замечая также, что функция  принимает
значение
 принимает
значение  ,
если в произведение входит чётное число отрицательных сомножителей, и
,
если в произведение входит чётное число отрицательных сомножителей, и  в
противоположном случае, можно представить выражение в квадратных скобках
(10.62) в виде
 в
противоположном случае, можно представить выражение в квадратных скобках
(10.62) в виде 
 (10.63)
                         (10.63)
Окончательно,
правило решения о том, что  , примет форму
, примет форму
 
что совпадает с
(10.46). 
Заметим в
заключение, что при обычном поэлементном мажоритарном декодировании указанное
правило можно записать в виде 
 
Таким образом,
сущность аналогового декодирования сводится к введению весовых коэффициентов  Другими
словами, «вес» каждой из проверок (10.45) определяется наименьшим модулем
логарифма отношения правдоподобия входящих в неё символов.
 Другими
словами, «вес» каждой из проверок (10.45) определяется наименьшим модулем
логарифма отношения правдоподобия входящих в неё символов.