2.4. ПРОСТРАНСТВО ОБРАЗОВ И ПРОСТРАНСТВО ВЕСОВ

Выше было отмечено, что решающая функция в случае разбиения на два класса должна обладать следующим свойством: для всех образов одного класса должно выполняться неравенство и для всех образов второго класса — неравенство . Допустим, что в каждый класс входят по два двумерных образа, где верхние индексы обозначают классы соответственно. Если классы линейно разделимы,

задача сводится к отысканию вектора для которого справедливы следующие неравенства:

Другими словами, вектор является решением системы линейных неравенств, определяемой всеми образами, входящими в состав обоих классов.

Умножив пополненные образы, принадлежащие одному из классов, на —1, систему неравенств (2.4.1) можно переписать в виде

(на —1 умножены образы, принадлежащие классу ). В этом случае задача сводится к отысканию вектора обеспечивающего положительность всех неравенств. Очевидно, что системы (2.4.1) и (2.4.2) идентичны, поскольку один и тот же вектор будет удовлетворять обеим системам. Ниже мы будем использовать обе формы записи.

Неравенства (2.4.1) и (2.4.2) требуют только, чтобы компоненты вектора определяли разделяющую границу для классов . Для того чтобы получить более полное представление о геометрических свойствах вектора решения целесообразно обсудить различия между понятиями пространства образов и пространства весов.

Пространство образов представляет собой -мерное евклидово пространство, содержащее векторы образов, как это показано на рис. 2.5, а для гипотетического примера, соответствующего системе неравенств (2.4.1). Координатные переменные обозначены через . В данном пространстве вектор представляется набором коэффициентов, определяющим разделяющую поверхность.

Пространство весов представляет собой -мерное евклидово пространство, где — координатные переменные. В этом пространстве каждое неравенство соответствует положительной или отрицательной зоне гиперплоскости, проходящей через начало координат. В этом можно убедиться

Рис. 2.5. (см. скан) Геометрическая интерпретация понятий пространства образов и пространства весов, а — пространство образов: пространство весов, соответствующее системе неравенств (2.4.1) в — пространство весов, соответствующее системе неравенств (2.4.2). Заштрихованные области обозначают положительные стороны плоскостей.

непосредственно, проанализировав систему неравенств (2.4.1). Так, например, приравнивая первое неравенство нулю, приходим к уравнению которое, как известно, представляет собой уравнение плоскости, проходящей через начало координат пространства весов. Решением систем неравенства (2.4.1) является всякий вектор , расположенный в положительных зонах всех плоскостей, соответствующих классу образов

и в отрицательных зонах всех плоскостей, соответствующих классу образов . Решением системы неравенств (2.4.2) служит всякий вектор расположенный в положительных зонах всех плоскостей, поскольку пополненные образы класса были умножены на —1. Оба случая представлены на рис. 2.5,б и в, где заключенными в окружности цифрами обозначены образы и соответствующие им плоскости, находящиеся в пространстве весов. Отметим, что в обоих случаях вектор решения один и тот же, причем область решения ограничена конической поверхностью. В общем случае поверхность границы представляет собой выпуклый многогранный конус. Как будет показано в п. 2.5.2, общее число конусов зависит от числа образов и их размерности.

Из проведенного обсуждения заключаем, что общая задача, возникающая в связи с использованием линейных решающих функций, сводится к решению системы линейных неравенств, каждое из которых определяется отдельным вектором образа. В пятой и шестой главах рассматривается несколько подходов к решению этой задачи.