Глава 11. ОПТИМАЛЬНЫЕ ЛИНЕЙНЫЕ СИСТЕМЫ

11.1. Введение

Одним из применений теории, развитой в главах 6 и 9, является построение линейных систем, выполняющих оптимальным образом заданные операции, если на некоторые или все входы системы подаются выборочные функции вероятностных процессов. К числу таких систем относятся, например, так называемые сглаживающие фильтры, предназначенные для возможно лучшего выделения полезного сигнала из смеси сигнала и шума; другим примером могут служить прогнозирующие фильтры, предназначенные для воссоздания будущих значений полезного сигнала, причем и здесь полезный сигнал может быть смешан с шумом. В настоящей главе мы рассмотрим методы построения оптимальных линейных систем. Для удобства мы всегда будем полагать, что как полезный сигнал, так и шум являются действительными функциями времени.

Прежде чем перейти к решению различных частных задач, рассмотрим условия четырех типов, которыми в основном выделяется специфика любой задачи, относящейся к построению оптимальной системы. Этими условиями являются назначение системы, природа входного сигнала, используемый критерий качества работы системы и допустимая свобода выбора при конструировании системы. Задание этих четырех условий определяет природу рассматриваемой оптимизационной задачи, хотя может, конечно, оказаться, что эта задача вообще не имеет решений, или не имеет наилучшего решения, или имеет не единственное наилучшее решение. На практике к условиям указанных четырех типов обычно добавляются и некоторые другие условия, например стоимость системы (быть может, в некотором обобщенном смысле этого слова). Для наших нынешних целей, однако, мы будем считать, что стоимость системы не учитывается.

Вместо того чтобы рассматривать указанные типы условий абстрактно, обратимся для иллюстрации к некоторой конкретной ситуации и рассмотрим, например, задачу о построении оптимального сглаживающего фильтра. Предположим, что в нашем распоряжении имеется искаженный сигнал являющийся суммой полезного сигнала и нежелательного шума

Первый тип условий задачи — назначение системы. В данном случае мы будем считать, что назначением системы является восстановление полезного сигнала по искаженному сигналу

Теперь мы должны задать природу обоих воздействий На этот счет имеется ряд возможностей, включая и ряд неинтересных. Например, если точно известно, то, по крайней мере в принципе, задачи не возникает вовсе, если точно известно то тривиально получается решение и задачи опять-таки не возникает. В другом крайнем случае, если мы не имеем априори никакой информации относительно то нет никакой надежды даже приблизительно выделить из суммарного воздействия Очевидно, представляющим интерес случаем является тот, когда имеется некоторая, но не слишком большая неопределенность в обоих сигналах. Часто оказывается разумным предполагать, что шум на входе обусловлен некоторым случайным физическим явлением, статистические свойства которого известны, например, что это — тепловой или дробовой шум. Если это так, то мы можем считать выборочной функцией вероятностного процесса. Сигнал может в зависимости от своего источника описываться, например, полиномом степени с неизвестными коэффициентами, конечным тригонометрическим рядом с неизвестными коэффициентами, выборочной функцией вероятностного процесса или комбинацией перечисленных сигналов. Обычным является также предположение, что как полезный сигнал, так и шум являются выборочными функциями стационарных вероятностных процессов с известными корреляционными и взаимными корреляционными функциями. Эти предположения были сделаны Винером в его теории линейных сглаживающих фильтров, которую мы будем рассматривать ниже.

Для оценки качества работы системы, т. е. для суждения о том, насколько успешно выполняет она свои функции, можно использовать множество различных критериев. Искомым выходным сигналом системы является если фактический отклик есть то каждый функционал от может служить некоторого рода мерой качества работы системы. Обычно, однако, за меру качества работы системы берут ту или иную величину, зависящую от разности достигающую минимума (максимума), если ошибка равна нулю, и возрастающую (убывающую) с увеличением ошибки. Поскольку мы рассматриваем системы, работающие со случайными сигналами на входе, а следовательно, и на выходе, естественно использовать вероятности и математические ожидания. В частности, разумными мерами качества работы системы, или, иными словами, малости ошибки, являются

Читатель легко может дополнить этот перечень. Применяя критерий (1), мы ищем систему, для которой является наибольшей условная вероятность при условии, что известна вся предыстория сигнала и что отклик системы совпадает с истинным значением полезного сигнала. Такой критерий является заманчивым, если плотности условных вероятностей непрерывны и мы заинтересованы лишь в том, чтобы ошибки были малы на протяжении возможно большего интервала времени, а все ошибки, превосходящие некоторую определенную величину, считаются, грубо говоря, одинаково плохими. Такой критерий имеет, однако, тот недостаток, что он требует полного знания статистики входного сигнала, что часто недоступно. Критерий (2) является такой мерой качества системы, при которой все ошибки, превосходящие некоторое пороговое значение, считаются одинаково плохими, а малые ошибки никак не учитываются. В этом случае, конечно, искомой является система, минимизирующая рассматриваемую вероятность. При использовании критериев (3) и (4) ошибки взвешиваются в соответствии с их величиной, причем в критерии (4) большим ошибкам придается особо большой вес. Критерий (4) во многих применениях не является наилучшим критерием, а часто он оказывается даже хуже других. Однако он обладает тем достоинством, что приводит к аналитически разрешимым задачам. Величина может быть вычислена непосредственным образом, если известны корреляционная функция входного сигнала и функция передачи линейной системы. Критерий минимума среднеквадратичной ошибки используется в винеровской теории линейного сглаживания и в большинстве обобщений этой теории.

Наконец, мы должны рассмотреть вопрос о свободе выбора, допустимой при построении системы. В начале настоящей главы мы предположим, что будут рассматриваться лишь линейные системы. Такое ограничение обусловлено отнюдь не тем, что линейные системы обязательно являются наилучшими, а просто лишь тем, что допущение более широкого класса возможных систем приводит к слишком большим математическим трудностям. Кроме того, мы обычно требуем, чтобы рассматриваемые

системы были линейными системами с фиксированными параметрами и чтобы они были физически осуществимы. Ограничение систем классом систем с фиксированными параметрами иногда необязательно; однако если на входе системы мы имеем дело со стационарными вероятностными процессами, то мы ничего не теряем, приняв это ограничение. Ограничение допустимых систем классом физически осуществимых нужно не столько для упрощения анализа, сколько для того, чтобы гарантировать практическую ценность полученных результатов. В действительности все тонкости винеровской теории сглаживающих фильтров возникают из-за этого последнего ограничения. Иногда исходят из предположения, что воздействие на систему подавалось в течение всего прошедшего времени; в других случаях считают, что воздействие имело место лишь в течение конечного интервала времени. Мы изучим сглаживающие фильтры в обоих этих случаях.

Мы говорили выше только о сглаживающих фильтрах; совершенно очевидно, однако, что такие же рассуждения применимы к любым задачам о построении оптимальных систем. Условия четырех перечисленных типов должны быть заданы в любой такой задаче, прежде чем будет установлена ее математическая формулировка. Три из этих условий — назначение системы, природа входного сигнала и допустимая свобода выбора — достаточно четко определяются тем, как и где должна работать система, а также теоретическими и практическими ограничениями, возникающими при ее конструировании. Последнее условие — критерий качества работы системы — также зависит от указанных выше факторов, однако этот вопрос значительно тоньше. Мы будем считать, что основанная на опыте интуиция и знание указанных выше факторов достаточны для правильного выбора критерия качества. Более подробное рассмотрение этой стороны дела привело бы к теории решающих функций, основная задача которой состоит в отыскании правил, с помощью которых можно принять решение о том, что один объект лучше другого. В настоящей главе мы будем использовать критерий наименьшей среднеквадратичной ошибки всюду, за исключением § 11.8, где мы воспользуемся несколько иным, однако очень близким к нему критерием. В гл. 14 мы вновь вернемся к задаче о построении оптимальной системы, и там нам придется иметь дело с различными критериями качества.

В последующих параграфах настоящей главы мы рассмотрим выбранные более или менее произвольным образом задачи, связанные с построением оптимальных линейных систем, предназначенных для сглаживания, прогнозирования и повышения отношения

сигнал/шум. Техника, которую мы здесь используем, применима к более широкому классу задач, чем тот, который будет здесь рассмотрен.