2.2. Характеризация кратчайшей траектории

В настоящем пункте гильбертово пространство (может быть конечномерное). Для краткости будем обозначать

Теорема 1. Для того чтобы ломаная была решением задачи (2.5), необходимо и достаточно, чтобы

Решение задачи (2.5) единственно.

В приведенной теореме фактически утверждается, что если является экстремальной по каждой "переменной" в отдельности, то х является экстремальной по совокупности "переменных".

Далее граница множества его аффинная оболочка,

Для практического построения решения задачи (2.5) полезно

Предложение 2. Пусть замкнутое выпуклое множество из Элемент удовлетворяет равенству

тогда и только тогда, когда и существует опорная к в точке гиперплоскость такая, что плоскость ортогональна к и отрезки образуют с одинаковые углы.

Предложение вытекает из следующей леммы, которая устанавливается посредством известного условия минимума выпуклой функции (см., напр., [100], [58]).

Лемма 1. В условиях предложения 2 элемент удовлетворяет равенству (2.7) тогда и только тогда, когда и существует опорная к в точке гиперплоскость такая, что

Пусть луч пересекает гиперплоскость является внутренней точкой луча через будем обозначать отраженный луч, т.е. луч с началом содержащийся в луче, симметричном I относительно Следующая лемма очевидна.

Лемма 2. Пусть гиперплоскости из и лучи, пересекающие Если разделяет то гиперплоскость, симметричная (относительно разделяет

Лемма 3. Пусть совокупность замкнутых выпуклых множеств из и ломаные таковы, что и

Если ломаные совпадают.

Доказательство. Если

то (см. предложение 2) найдется опорная к в точке гиперплоскость такая, что плоскость ортогональна к и отрезки образуют с одинаковые углы. Обозначим

Предположим, что ломаные различны. Пусть — наименьший номер, для которого тогда Покажем, что для любого существует гиперплоскость разделяющая лучи и строго разделяющая точки что противоречит условию Найдем наименьший номер для которого (2.7) выполняется хотя бы при одном Обозначим через гиперплоскость, которая содержит и строго разделяет точки Поскольку при (если такие номера существуют), то разделяет лучи Если (2.7) выполняется при и только для одного например для то в качестве можно взять Теперь предположим, что (2.7) выполняется для обоих номеров Пусть гиперплоскость, содержащая точки и параллельная плоскости гиперплоскость, симметричная относительно . В силу леммы строго разделяет Надо убедиться в том, что также разделяет лучи

Для точки а построим проекцию (соответственно на нормаль в точке к плоскости (соответственно Тогда

и для любого

каждая точка на получена смещением некоторой точки из в направлении вектора — ортогонального плоскости Отсюда Поскольку плоскость разделяет лучи то она разделяет и лучи Повторяя далее рассуждения, проведенные для построим гиперплоскость, разделяющую лучи и строго разделяющую точки Противоречие. Лемма доказана.

Справедливость теоремы 1 следует из леммы 3.