ЭКСТРАПОЛИРОВАНИЕ В ОБУЧЕНИИ РАСПОЗНАВАНИЮ ОБРАЗОВ

— определение результата распознавания для произвольного сигнала на основании заданных результатов распознавания для отдельных сигналов, образующих обучающую выборку.

Распознающая система (или распознающий алгоритм) служит для того, чтобы на основании наблюдаемого сигнала, характеризующего некоторый объект, выбирать одно из возможных решений. Цель обучения распознающей системы состоит в том, чтобы по известным правильным решениям, указанным учителем для некоторой выборки сигналов, определить решения для сигналов, не вошедших в выборку. Этот процесс, с одной стороны, подобен обучению человека «на примерах», с другой,

может рассматриваться как восстановление некоторой функции по ее значениям в отдельных точках, т. е. как экстраполирование функции (или ее интерполирование).

Очевидно, что экстрополирование или интерполирование функции имеет смысл только в том случае, если на искомую функцию с самого начала наложены определенные ограничения, т. е. указан класс, к которому заведомо принадлежит искомая функция. Класс функций можно либо четко очертить, либо задать не вполне определенно, указав предпочтительность тех или иных функций. Предпочтительность характеризуется некоторым функционалом, заданным на мн-ве функций. Примером такого функционала может служить некоторая оценка сложности функции. Если никаких ограничений нет, то экстраполирование теряет смысл, т. к. в этом случае функцию можно продолжить совершенно произвольно.

В наиболее простом и привычном случае функций одномерного аргумента (т. е. функций одной переменной) достаточно наложить на функции довольно общие и сравнительно слабые ограничения, для того чтобы экстраполирование с приемлемой точностью было возможно. Напр., достаточно предположить существование и ограниченность производной, чтобы экстраполирование (в данном случае — интерполирование) было возможно с погрешностью, обратно пропорциональной числу равномерно распределенных точек, в которых значения функции заданы. Однако в общем случае функций многомерного аргумента при таких же общих предположениях о функциях экстраполирование неосуществимо.

Случай многомерного аргумента, характерный для большинства практически важных задач распознавания, отличается тем, что точки, в которых необходимо задать значения функции, образуют многомерную решетку. Число точек в этой решетке возрастает с ростом размерности N аргумента как , где — число значений, которое принимает каждая компонента аргумента. Даже при минимальном значении (компонента является переменной величиной, если она принимает, по крайней мере, два различных значения) число точек, равное увеличивается с ростом размерности N так быстро, что уже при N порядка нескольких десятков задать точек практически невозможно.

Поэтому в случае экстраполирования функций многомерного аргумента необходимо налагать значительно более строгие ограничения на класс функций. С этой «трудностью многомерности» исследователи сталкиваются при решении задач обучения в тех случаях, когда распознаваемые объекты характеризуются большим числом признаков. В таких задачах аргументом решающей функции является набор признаков. Размерность N такого аргумента равна числу признаков. Поэтому при распознавании объектов, характеризуемых несколькими десятками признаков, для преодоления трудности многомерности необходимо заранее знать достаточно узкий класс, к которому принадлежит решающая функция.

Достаточно узким классом функций следует считать класс, характеризующийся сравнительно небольшим значением эпсилон-энтропии, так что информации количество, содержащееся в обучающей выборке, должно быть не менее в-энтропии класса. Обычно, если класс Функций представим в параметрической форме, это требование можно более грубо сформулироровать так: число неизвестных параметров функции должно быть того же порядка, что и длина обучающей выборки. Конечно, выбираемый класс функций должен быть адекватным данной конкретной задаче, иначе искомая решающая функция может оказаться не принадлежащей выбранному классу функций и поэтому не будет найдена. Выбор класса решающих функций можно осуществить путем изучения закономерностей, которым подчиняются наблюдаемые сигналы в конкретном случае решаемой задачи (см. Модели объектов распознавания). в. А. Ковалевский.