Самообучение.
В отличие от обучения с поощрением самообучение происходит только по предъявляемым ситуациям, без дополнительной информации о принадлежности ситуации к определенному классу. Теперь система должна автоматически определить не только принадлежность ситуации к классам, но и количество классов, которое, очевидно, не должно быть равно числу предъявляемых ситуаций, а меньше его.
Информация о количестве классов может быть получена из выражения совместной плотности распределения
входящей в формулу среднего риска
где — функция потерь; с — не известный заранее составной вектор параметров. По числу максимумов М совместной плотности распределения определяется число классов, поэтому при самообучении задача заключается в восстановлении совместной плотности распределения путем ее аппроксимации в виде
где — выбранная вектор-функция с ортонормированными компонентами; — неизвестные коэффициенты.
В результате минимизации функционала
получаем в дискретном виде алгоритм определения
Далее, минимизируя средний риск (11.223), можно получить разделяющие функции Например, для случая двух максимумов классов) средний риск
Условия минимума
Разделяющая функция имеет вид
Отсюда дискретные алгоритмы самообучения
и
если , где — матрицы коэффициентов, определяющие сходимость вектора к оптимуму.