ГЛАВА IV. ПРИЕМ КАК СТАТИСТИЧЕСКАЯ ЗАДАЧА

1. Идеальный приемник

Задачей приема является извлечение информации из смеси нужного сигнала и шума. По этому вопросу существует обширная литература. Значительная ее часть касается методов получения возможно большего отношения сигнала к шуму на том основании, что именно шум, в конечном счете, ограничивает чувствительность, и поэтому чем меньше шум, тем лучше. Этот подход правилен до тех пор, пока он приводит к цели, однако он не содержит постановки задачи об извлечении информации. Иногда он может ввести в заблуждение, так как не существует общей теоремы, утверждающей, что максимальное отношение сигнала к шуму на выходе обеспечивает максимальное извлечение информации.

Предположим, что сигнал на входе приемника представляет сообщение х, состояние которого мы хотим определить. В то же время неизбежно присутствует шум, предполагаемый в этой главе белым гауссовым; получающуюся смесь обозначим через у. Задача заключается в том, чтобы, оперируя над получить как можно большую информацию относительно х. Но сначала нужно уяснить одно обстоятельство. Поскольку у есть все, чем мы располагаем, никакая операция над у не может увеличить количество х-информации, содержащееся в у: это было показано в предыдущей главе. Поэтому в отношении -информации математическая задача сводится к ее сохранению, а не к возможно большему ее увеличению. Однако у обычно содержит также некоторое количество информации, не связанной с х и не интересующей наблюдателя. Задачей поэтому является исключение как можно большего количества ненужной информации обычно путем фильтрации, без разрушения какой-либо нужной х-информации. Математически это формулируется весьма просто: требуется найти распределение вероятности оно говорит нам все то, что можно узнать об х, зная и не больше. Идеальный приемник можно определить как устройство, которое при подаче на его вход у дает на выходе При этом нет необходимости рассматривать наблюдателя как часть приемной системы (что считают обычно необходимым), так как никакой наблюдатель, даже человек, не может сделать больше, чем образовать если только он не делает каких-либо предположений.

А предположения, как уже было показано, разрушают информацию. К несчастью, трудности применения этих простых, казалось бы, идей в достаточно строгой форме обычно непреодолимы. Тем не менее, как будет видно, теория представляет некоторый интерес для понимания общей задачи приема.