6.6. Заключение
Рассмотрены вопросы применения байесовых методов для оценки (изучения) неизвестных параметров функций распределения вероятностей (или функций плотности). Если неизвестные параметры являются фиксированными величинами, то, принимая удобный вид априорной функции распределения, можно оценить истинные значения параметров путем итерационного применения формулы Ьайеса Рассмотрены схемы обучения как с поощрением, так и без поощрения. При обучении без поощрения
предполагается, что неклассифицированные обучающие наблюдения характеризуются совместным распределением, содержащим в качестве компонент распределения вероятностей для каждого класса.
Процедура байесовых оценок может быть также распространена на случай, когда неизвестные параметры медленно изменяются во времени. Если неизвестные параметры сами являются случайными величинами с неизвестными априорными функциями распределения, то в этом случае для оценки параметров предложен эмпирический байесов метод.
Наконец, рассматривается общая модель байесова обучения, предложенная Пугачевым. В этой модели процессы обучения с идеальным учителем и с реальным учителем могут быть сведены в одну математическую формулировку.
В вопросах построения простых вычислительных алгоритмов для байесовой оценки неизвестных параметров важную роль играет класс воспроизводящихся функций распределения. Это может ограничивать область практического применения байесовых методов оценки. При использовании совместного распределения единственное решение может быть получено только в том случае, если выполняется условие идентифицируемости. Но даже если совместное распределение идентифицируемо, еще не очевидно, что можно получить эффективные вычислительные алгоритмы для оценки. Было бы интересно исследовать задачи совместных оценок с вычислительной точки зрения, в особенности для многомерных случаев, когда число неизвестных параметров велико. Желательно также, с практической точки зрения, исследовать вычислительные алгоритмы, получаемые из общей модели обучения, предложенной В. С. Пугачевым.
Литература
(см. скан)
