III. ИНФОРМАЦИЯ ДЛЯ НЕПРЕРЫВНЫХ ВЕЛИЧИН

Рассмотрим теперь случай, когда сигналы или сообщения (или те и другие) являются непрерывными величинами в отличие от предполагавшейся до этого дискретности рассматриваемых систем. В значительной степени результаты для непрерывного случая могут быть получены предельным переходом от дискретного случая путем деления всего континуума сообщений или сигналов на большое, но конечное число малых областей и вычисления различных параметров, введенных на дискретной основе. По мере уменьшения размеров областей эти параметры, вообще говоря, сходятся в пределе к соответствующим значениям для непрерывного случая. Однако появляется несколько новых эффектов, а также наблюдается общее перемещение центра тяжести в сторону перехода от общих результатов к специальным частным случаям.

В непрерывных системах не будет делаться попыток получать результаты с наибольшей общностью или с крайней строгостью чистой математики, так как это потребовало бы серьезного применения абстрактной теории меры и затемнило бы основную нить нашего анализа. Предварительное изучение, однако, показывает, что теория может быть сформулирована полностью аксиоматическим и строгим образом, включая в себя непрерывный дискретный и многие другие случаи. Некоторые вольности, допущенные в настоящем анализе, при предельных переходах могут быть оправданы во всех случаях, представляющих практический интерес.

18. Множества и ансамбли функций

В непрерывных системах мы будем иметь дело с множествами функций и ансамблями функций. Множество функций, как указывает сам термин, есть просто некоторый класс или набор функций обычно от одной переменной — времени. Оно может быть определено либо путем явного представления различных функций множества, либо неявно путем указания тех свойств, которыми функции множества обладают, а другие функции не обладают. Приведем некоторые примеры:

1. Множество функций

Каждое частное значение 0 определяет частную функцию множества.

2. Множество всех функций времени, не содержащих частот выше герц.

3. Множество всех функций, ограниченных по полосе числом и по амплитуде числом А.

4. Множество всех английских речевых сигналов, рассматриваемых как функции времени.

Ансамбль функций есть множество функций вместе с вероятностной мерой, посредством которой можно определить вероятность того, что функция множества обладает определенными свойствами. Например, вместе с множеством

можно задать распределение вероятностей для 0, скажем Тогда это множество становится ансамблем.

Приведем некоторые другие примеры ансамблей функций:

1. Конечное множество функций где имеет вероятность

2. Конечнопараметрическое семейство функций

с распределением вероятностей для параметров

Например, ансамбль, определяемый выражением

причем амплитуды распределены нормально и независимы, а фазы распределены равномерно в интервале и независимы.

3. Ансамбль

где а распределены нормально и независимо и все имеют одно и то же стандартное отклонение Это есть одно из представлений «белого» шума с полосой частот от 0 до герц и со средней мощностью

4. Пусть на оси распределены точки по закону Пуассона. В каждую выбранную точку помещается функция и различные функции складываются, давая ансамбль

где точки, распределенные по закону Пуассона. Этот ансамбль может рассматриваться как разновидность импульсных или дробовых шумов, когда все импульсы одинаковы.

5. Система английских речевых функций с вероятностной мерой, определяемой частотой их появления при их повседневном использовании.

Ансамбль функций называется стационарным, если при сдвиге всех функций по времени на некоторую фиксированную величину получается тот же самый ансамбль. Ансамбль

является стационарным, если 0 распределено равномерно от 0 до Если сдвинуть каждую функцию на то получится

где распределено равномерно от 0 до Каждая функция изменилась, но ансамбль в целом при этом сдвиге остался неизменным. В других примерах, приведенных выше, ансамбли также стационарны.

Ансамбль называется эргодическим, если он является стационарным и если во множестве функций не существует стационарного подмножества с вероятностью, отличной от 0 и 1. Ансамбль

является эргодическим. Никакое подмножество этих функций с вероятностью, отличной от 0 и 1, не может быть превращено само в себя при всех временных сдвигах. С другой стороны, ансамбль

где а распределено нормально, равномерно, является стационарным, но не эргодическим. Подмножество таких функций, для которого а заключено, например, между 0 и 1, является стационарным и имеет вероятность, не равную 0 и 1.

Из приведенных выше примеров ансамблей 3-й и 4-й являются эргодическими, а 5-й, возможно, также может рассматриваться как эргодический. Если ансамбль эргодический, то, грубо говоря, каждая функция множества является типичной для ансамбля. Более точно известно, что для эргодического ансамбля среднее любой статистики по ансамблю равно (с вероятностью, равной единице) ее среднему по всем временным переносам любой частной функции множества. Грубо говоря, можно ожидать, что при изменении времени каждая функция испытает с надлежащей частотой все изменения, претерпеваемые любой из функций множества.

Выполняя различные операции над числами или функциями, можно получить новые числа или функции. Точно так же можно выполнять операции над ансамблями для получения новых ансамблей. Предположим, например, что имеется ансамбль функций и оператор Т, переводящий каждую функцию

Вероятностная мера для множества определяется вероятностной мерой для множества Вероятность некоторого подмножества функций равна вероятности такого подмножества функций члены которого переводятся оператором Т в члены

данного подмножества функций Физически это соответствует прохождению ансамбля через некоторое устройство, например фильтр, выпрямитель или модулятор. Функции на выходе устройства образуют ансамбль

Устройство или оператор Т будет называться инвариантным, если сдвиг входа просто сдвигает выход, т. е. если из равенства

следует, что

для всех и всех Легко показать (см. приложение 5), что если Т — инвариантный оператор, а входной ансамбль стационарный, то выходной ансамбль также стационарный. Подобным же образом, если входной ансамбль эргодический, то выходной ансамбль также будет эргодическим.

Фильтр или выпрямитель инвариантны при всех временнйх переносах. Операция модуляции не является инвариантной, так как фаза несущей создает определенную временную структуру. Однако модуляция инвариантна при всех переносах, кратных периоду несущей.

Винер указал на тесную связь между инвариантностью физических устройств при временных переносах и теорией Фурье. Он показал, что если устройство линейно и инвариантно, то анализ методом Фурье является удобным математическим аппаратом для решения задачи.

Ансамбль функций представляет собой подходящее математическое представление сообщений, создаваемых непрерывным источником (например, речью), причем как для сигналов, создаваемых передатчиком, так и для мешающих шумов. Теория связи имеет дело, как подчеркнул Винер, не с операциями над конкретными функциями, а с операциями над ансамблями функций. Система связи конструируется не для определенной речевой функции и тем более не для синусоидальной волны, а для ансамбля речевых функций.