6.4. ВАРИАЦИОННАЯ ЗАДАЧА БЕЗ ОГРАНИЧЕНИЙ

В строгой формулировке задача оптимизации сигнала состоит в нахождении сигнала максимизирующего или минимизирующего функционал Это вариационная задача без дополнительных ограничений. Мы рассмотрим такую задачу, чтобы выявить вариационные методы отыскания необходимых условий, которым должно удовлетворять решение. Если х — вещественная переменная, а не функция, мы просто должны найти точки, в которых и вычислить значения во всех этих точках, чтобы установить, где достигается максимум, а где минимум. Если х — вектор, то произвольное приращение х — также вектор, и величина приращения I неодкозначна, она зависит от направления. Иными словами, мы не можем однозначно определить производную от в точке х. Единственное, что можно сделать, это вычислить приращение 1 при изменении х вдоль определенного направления. Пусть х и — элементы нормированного линейного пространства, и тогда для действительного производная по направлению от I по х вдоль и определяется следующим образом:

причем предполагается, что этот предел существует, если непрерывный функционал.

Теперь потребуем, чтобы в стационарной точке функционала (например, в производная по направлению обращалась в нуль для всевозможных и.

В противном случае, если , то при достаточно малом величина может быть как больше, так и меньше, чем Поскольку для характеристики сигналов мы будем использовать линейные и квадратичные функционалы, заметим, что

Из (6.32) видно, что производная по направлению линейного функционала не зависит от х, чего и следовало ожидать по аналогии с функциями действительного переменного. Продолжая аналогию, мы могли бы ожидать, что производная по направлению квадартичного функционала должна быть линейным функционалом от однако из (6.33) видно, что это не совсем верно. Сказанное верно для вещественных линейных пространств, когда . В этой связи было бы желательно ограничиться вещественными пространствами. Хотя рассмотрение только вещественных функционалов от вещественных сигналов не вносит ограничения с практической точки зрения, важно, чтобы мы могли рассматривать и функционалы, аргументами которых являются комплексные функции. Например, может быть комплексным для вещественного сигнала. Заметим, однако, что вещественное пространство может иметь комплексные базисные функции при условии, что все скаляры (скалярные произведения) вещественны. Если мы ограничим область допустимых функций частоты, такими, что , то все линейные функционалы и все квадратичные функционалы, соответствующие операторам во временной области, будут вещественными и, кроме того, для всех допустимых X и Y. Главное преимущество подобного рассмотрения, ограниченного вещественными пространствами, состоит в том, что в этом случае все производные по направлению от функционалов можно выразить через вектор градиента.

Градиент линейного и квадратичного функционалов

Пусть — полная ортонормальная система в вещественном пространстве и пусть — вещественный функционал. Положим

Теперь, предполагая, что есть непрерывная функция от х при любом и, мы можем написать

где вектор может зависеть от х, но не от :

где

В любой точке производную по направлению и всегда можно выразить как скалярное произведение векторов . Вектор называется грйдиентом

Из неравенства Шварца мы имеем

где равенство достигается только в случае, когда и пропорционально при этом величина производной по направлению максимальна и равна норме вектора градиента. Некоторые численные методы отыскания стационарных точек функционала используют последовательные приближения и состоят в вычислении значений функционала в последовательных точках, причем перемещение от точки к точке каждый раз происходит вдоль вектора градиента. При этом предполагается, что мы быстрее всего достигнем экстремума, если будем двигаться на каждом шаге по направлению максимального изменения функционала. Эти методы называются методами наискорейшего спуска (или подъема).

Сравнивая (6.32) и (6.34), мы видим, что в случае вещественного линейного функционала градиент имеет вид

а из (6,33) находим градиент для вещественного квадратичного функционала

Предположим, что задача оптимизации состоит в отыскании экстремума функционала, представляющего собой линейную комбинацию квадратичного и линейного функционалов. Тогда

где

Необходимым условием экстремума является существование стационарной точки функционала т. е. точки, в которой обращается в нуль. Дейстаител при всех и тогда и только тогда, когда Следовательно, необходимое условие экстремума есть

или, в частотной форме,

На основании этих условий можно сделать несколько общих замечаний о задаче поиска экстремума. Если ограничиться функционалами, состоящими из линейных и квадратичных функционалов, то необходимые условия экстремума выражаются линейными уравнениями (в общем случае интегральными уравнениями Фредгольма), для решения которых известен ряд методов [2], Заметим, что ядро интегрального уравнения всегда самосопряженное. Если функционал не включает линейной части, получается однородное уравнение, и нетривн альное решение существует только в случае, если оператор сингулярный. Кроме того, если А — самосопряженный оператор, то для однородного случая в стационарной точке.

Практически задача редко ставится в сформулированном виде, без ограничений на допустимые функции. Такие практические условия, как, например, конечная величина энергии сигнала, обычно ограничивают область допустимых решений. Иными словами, функции, максимизирующие (минимизирующие) функционал, должны одновременно удовлетворять некоторым дополнительным условиям, К счастью, с помощью метода множителей Лагранжа необходимые условия в задаче с ограничениями получаются в основном таким же путем, как в задаче без ограничений. Этот метод рассмотрен в следующем параграфе.

Упражнение 6.1. Показать, что для непрерывного комплексного функционала определенного на пространстве со скалярным произведением, производная по направлению (комплексная) имеет вид

где и могут зависеть от х, но не от .

Упражнение 6.2. Показать, что, если — ограниченный оператор, то производная направлению от функционала в (6.33) есть непрерывный функционал от х при любом и,