5. Прирост информации

В предыдущем параграфе было показано, что в поведении можно различать два случая в зависимости от того, где находится значение значительно выше или значительно ниже 1 порога, задаваемого (35), при этом соответственно Мы теперь подготовлены к исследованию прироста информации о дальности для этих двух областей. Когда превышает порог, точность наблюдения растет как а следовательно

количество информации увеличивается с логарифмически. Точнее, имеем

Первый член в правой части (40) есть энтропия прямоугольного априорного распределения, второй — энтропия гауссова апостериорного, что следует из формулы (26) и формулы (88) гл.

Больший интерес представляет случай когда слишком мало, чтобы давать однозначное наблюдение. Пренебрегая и флюктуациями энтропии, получим апостериорную энтропию

где задается посредством из (30) и должно быть нормировано с помощью (33). Таким образом,

Подстановка (43) в (42) и небольшие вычисления дают окончательно

а вычитание из априорной энтропии дает приближенно средний прирост информации (в натуральных единицах)

В противоположность логарифмической зависимости от при А 0, в этом случае количество информации растет в первом приближении пропорционально

Интересно сравнить результаты для обеих областей с теоремой Шэннона о средней мощности

Эта форма получена из уравнения (39) гл. III путем подстановки где время наблюдения величины Непосредственное сравнение нельзя провести, пока не снято ограничение на полосу частот, так как "естественная" мера полосы в радиолокационной задаче, не соответствует резкой границе Когда полоса в (46) увеличивается до бесконечности, стремится к пределу

Сравнение с формулой (45), если в ней оставить в стороне второй член, к обсуждению которого мы вскоре вернемся, показывает, что радиолокатор дает при неоднозначности, близкой к единице, прирост информации, примерно равный максимально возможному. Это можно представить следующим образом. Предположим, что остаются фиксированными, равномерно увеличивается по мере продолжения наблюдения. Тогда вначале, пока получена энергия, слишком малая для того, чтобы появился «видимый» сигнал, информация поступает с постоянной скоростью — почти идеально.

Рис. 17. Прирост информации (в натуральных единицах) при увеличении полученной энергии. Пунктирная кривая — примерная интерполяция между двумя областями.

Но когда достигает порогового значения, скорость внезапно падает, после чего увеличивается всего лишь логарифмически, как показано на рис. 17. Как только становится известным, что цель находится в определенной связной области, дальнейшее поступление энергии становится расточительным. Новые сигналы от этой же цели в значительной степени повторяют то, что уже известно.

Остается выяснить смысл члена в уравнении (45). Этот член появился благодаря тому, что мы вычисляли последетекторную информацию: он представляет информацию, связанную с тонкой структурой, опущенную в начале этой главы. Один из способов проверить это заключается в том, чтобы повторить вычисления, пользуясь экспоненциальными функциями вместо модифицированной функции Бесселя и действительными частями вместо модулей. Существует однако более быстрый способ. Предположим, что вместо того, чтобы смещать начало отсчета частоты в с помощью преобразования (2), мы оставили спектр сигнала на его настоящем месте около Если мы не отбросим отрицательные частоты около — то средняя частота будет равна нулю, а ширина полосы задается величиной

Эго следует из того, что есть момент второго порядка спектра относительно его среднего значения, поэтому находится с помощью теоремы о параллельном переносе осей. Если теперь подставить вместо (3 в уравнение (27), мы найдем точность измерения дальности, получающуюся при сравнении фазы несущей посылаемого и принимаемого колебаний. Связанный с этим прирост информации дается уравнением (41), в котором нужно заменить на на Последняя замена учитывает то обстоятельство, что несглаженная сигнальная функция имеет пики, отстоящие на интервалы тогда как вывод уравнения (41) предполагает существование только одного пика от сигнала. Кроме того, ограничивая априорную неопределенность одного периода радиочастоты, мы обеспечиваем исключение "обычной" информации о дальности. Таким образом, для информации, связанной только с несущей, имеем из (41) и (48)

что как раз равно требуемой величине. Однако, используя (41) вместо (45), мы молчаливо предполагали, что прием информации, связанной с несущей, происходит с превышением порога. Если вспомнить условия, при которых наступает однозначность, то станет ясно, что неоднозначность, связанная с распадением распределения на пики, не может наступать при сравнимом с Действительно, порог разборчивости сливается с порогом энергии, и так как предполагается большим, пригодна формула для случая отсутствия неоднозначности.

Мы приходим к следующему заключению. Прирост информации, даваемый радиолокационным сигналом, равен теоретически возможному, а именно натуральных единиц информации для сигнала с относительной энергией до тех пор, пока не будет достигнут порог. Если наблюдение продолжается после достижения порога, увеличивается, но количество информации не растет пропорционально На практике, разумеется, пороговое значение должно быть значительно превзойдено для того, чтобы уменьшить неоднозначность до очень малой величины.