§ 2.3. Методы самообучения

На практике иногда приходится сталкиваться с необходимостью построения распознающих устройств в условиях, когда провести классификацию объектов либо невозможно, либо по тем или другим соображениям нецелесообразно. В качестве примера можно сослаться на необходимость классификации некоторой совокупности сигналов таким образом, чтобы в один класс были объединены сигналы, значения отдельных параметров которых находятся в пределах определенных, заранее заданных диапазонов.

Пусть, например, сигналы изучаемой совокупности характеризуются параметрами Требуется так осуществить классификацию, чтобы в один класс были объединены сигналы, значения параметров которых удовлетворяют, например, условиям: в другой класс—сигналы, значения параметров которых удовлетворяют условиям: где некоторые фиксированные числа.

В рассматриваемой ситуации число классов заранее не известно, поэтому информации о принадлежности каких-либо сигналов к тем или другим классам нет и единственный путь формирования системы распознавания — применение методов самообучения. К самообучению приходится прибегать и тогда, когда хотя заранее и известно число классов, однако обучающая выборка не дана — имеется лишь некоторая совокупность объектов и значения признаков, которыми они характеризуются, т. е. даны объекты и величины но не указано, к каким классам относятся эти объекты. При этом необходимо обратить внимание на то, что построение самообучающихся систем распознавания и в одном, и другом случаях базируется на известном, заранее выбранном, априорном словаре признаков.

Рассмотрим, как может быть организована процедура самообучения, когда число классов неизвестно [4]. Пусть выбрано признаковое пространство, описываемое вектором Даны некоторая совокупность объектов и значения векторов которыми описываются эти объекты.

Обозначим через вероятность появления объекта класса а через — условную плотность распределения значений признаков внутри класса. Хотя функции

неизвестны, однако относительно совместной плотности распределения вероятностей

естественно предположить, что конструктор системы распознавания так определил условия, на основе которых в результате самообучения будет осуществлена классификация объектов, что «центрам» классов в признаковом пространстве соответствуют существенные максимумы функции Именно поэтому цель самообучения — на основе показов векторов и заданных условий объединения объектов в классы определить совместную плотность распределения, найти ее существенные максимумы, а следовательно, и «центры» классов и тем самым их число

Для решения задачи воспользуемся алгоритмами обучения, основанными на методе стохастической аппроксимации.

Положим, что искомая совместная плотность распределения может быть аппроксимирована конечным набором ортонормированных функций

Если обозначить через функцию истинной плотности распределения, то функционал

будет характеризовать квадратичную меру уклонения искомой плотности распределения от истинной. Задача состоит в том, чтобы найти такое оптимальное значение вектора которое минимизирует функционал

В силу того что компоненты вектор-функции ортонормированы, оптимальное значение вектора с

Таким образом, оптимальное значение вектора равно математическому ожиданию вектор-функции значения реализаций которой могут быть получены на основании априорной информации — величин компонент векторов

Для определения воспользуемся алгоритмом обучения. Тогда получим

Если положить обеспечивающим минимум дисперсии оценки с при любом фиксированном значении и, то

Найдя значение и подставив его в (2.71), определяем функцию Ее анализ и выявление существенных максимумов позволяют определить число классов, к которым могут быть отнесены объекты изучаемой совокупности. Это обеспечивает возможность решения задачи, состоящей в определении границ классов и рассматриваемой в гл. 3.