Приложение 7

В этом приложении укажем более общий и более строгий подход к основным определениям теории связи. Рассмотрим пространство с вероятностной мерой, элементы которого являются упорядоченными парами Величины х, у должны быть отождествлены с возможными передаваемыми и принимаемыми сигналами большой длительности Т. Назовем множество всех точек х, для которых х принадлежит к подмножеству полосой над и аналогично множество, для которого у принадлежит к — полосой над Разделим х и у на совокупность неперекрывающихся измеримых подмножеств аппроксимируя скорость передачи выражением

где

— вероятностная мера полосы над

— вероятностная мера полосы над — вероятностная мера пересечения этих полос. Дальнейшие подразбиения не могут уменьшить . В самом деле,

пусть разделяется на два подмножества ,

Тогда в сумме заменим (для пересечения )

на

Легко показать, что при тех ограничениях, которые наложены на

и, следовательно, сумма возрастет. Таким образом, различные возможные разбиения образуют упорядоченное множество и при этом монотонно возрастает с утончением разбиения. Можно однозначно определить как наименьшую верхнюю границу для и записать ее в виде

Этот интеграл, понимаемый в описанном выше смысле, включает как случай непрерывной, так и дискретной систем, а также и многие другие случаи, которые не могут быть представлены ни в одной из этих форм. Из такой формулировки тривиально следует, что если х и и находятся во взаимнооднозначном соответствии, то скорость при передаче от и к у равна скорости передачи от х к у. Если — любая функция от у (не обязательно имеющая обратную), то скорость передачи от к у больше или равна скорости передачи от х к так как при вычислении приближений любое разбиение для у тоньше аналогичного разбиения для В более общем случае, если у и связаны не функционально, а статистически, т. е. в пространстве имеется вероятностная мера, то Это означает, что любая операция, примененная к принимаемому сигналу, даже включающая статистические элементы, не увеличивает

Другое понятие, которое должно быть точно определено при абстрактной формулировке теории, - это понятие «скорости числа измерений», которая представляет собой среднее число измерений, требуемых в секунду для того, чтобы задать некоторый член

ансамбля. В том случае когда полоса ограничена, достаточно чисел в секунду. Общее определение может быть построено следующим образом. Пусть ансамбль функций и метрическое измерение «расстояния» от до за время Т (например, среднеквадратичное отклонение на этом интервале). Пусть наименьшее число элементов которые могут быть выбраны таким образом, что каждый элемент этого ансамбля, за исключением множества меры находится на расстоянии, меньшем по крайней мере от одного из выбранных элементов. Таким образом, все пространство покрывается с точностью до за исключением множества малой меры Определим скорость числа измерений X для этого ансамбля с помощью тройного предела:

Это определение является обобщением, использующим теорию меры для определения числа измерений в топологии, и согласуется с интуитивно представляемой скоростью числа измерений для простых ансамблей, где желаемый результат очевиден.