§ 7. Теория оптимальной разделяющей гиперплоскости

Напомним, что оптимальной разделяющей гиперплоскостью была названа плоскость

,

где  – единичный вектор, доставляющий максимум функции

,

.

Рассмотрим теперь минимальный по модулю вектор  (доставляющий минимум функции ), удовлетворяющий неравенствам

,

.                     (14.20)

Параметр  считается допустимым, если неравенства (14.20) совместны. Нетрудно убедиться, что если множества  и  разделимы гиперплоскостью, то множество допустимых  не пусто. Будем искать минимум функции  при ограничениях (14.20), считая переменными как вектор , так и параметр . Оказывается, что решение этой задачи равносильно отысканию оптимальной разделяющей гиперплоскости.

Теорема 14.9. Если множества  и  разделимы гиперплоскостью, то минимум функции  при ограничениях (14.20) существует, единственен и достигается при

,

,

где  – направляющий вектор оптимальной разделяющей гиперплоскости.

Доказательство. Покажем, что для любого вектора , удовлетворяющего (14.20), справедливо неравенство

.                        (14.21)

Действительно, поскольку нуль не удовлетворяет (14.20), знаменатель в нуль не обращается. Далее, в силу (14.20)

,

и, значит,

,

причем равенство достигается только в том случае, когда

и

.

Теперь, учитывая, что

,              (14.22)

получаем для любого вектора , удовлетворяющего (14.20),

.                 (14.23)

В силу единственности оптимальной разделяющей гиперплоскости (теорема 14.1) неравенства (14.21) и (14.22) переходят в равенство для векторов, удовлетворяющих (14.20), только при

,

, .      (14.24)

Только при этих условиях, очевидно, достигается равенство и в (14.23).

Разрешая эти равенства относительно  и , получаем что минимум  при ограничениях (14.20) достигается только в точке

,

.

Теорема доказана.

Таким образом, вектор , доставляющий максимум  при ограничениях (14.20), всегда коллинеарен ( и оптимальная разделяющая гиперплоскость может быть задана в виде

.