Глава 5. ОЦЕНИВАНИЕ ПАРАМЕТРОВ
Как говорилось в предыдущих главах, если известны плотности вероятности классов, то для классификации объектов можно определить граничную поверхность, разделяющую пространство признаков на области. Следующий вопрос заключается в том, как по имеющейся выборке объектов оценить эти плотности вероятности? Эта задача является очень сложной, если нельзя сделать предположение о структуре многомерной плотности вероятности. Однако, если можно задать вид этой функции, то задача сводится к определению конечного набора параметров. Для этого можно использовать хорошо известные статистические методы оценки параметров. Оценивание параметров плотностей вероятности известного вида и классификацию объектов на основе этих плотностей называют параметрическим методом классификации.
Первая задача, которая здесь возникает, заключается в том, чтобы оценить основные параметры плотности вероятностей, такие, как вектор математического ожидания, ковариационную матрицу и т. д. в предположении, что эти параметры не являются случайными величинами. Далее обсуждение будет распространено на случай, когда эти параметры — случайные величины. Такие задачи называют точечным оцениванием.
Другим важным вопросом в распознавании образов являются оценка вероятности ошибок решения, отношения правдоподобия, собственных значений и собственных векторов. Поскольку вероятности ошибок и отношение правдоподобия представляют собой сложные функции относительно параметров, непосредственное применение для них стандартных методов оценивания не дает приемлемых результатов. В этой главе будут рассмотрены методы оценивания этих величин по имеющимся выборочным данным. Оценивание собственных значений и собственных векторов в большей степени относится к задачам выбора признаков и поэтому будет рассмотрено в гл. 8.
Третьим вопросом этой главы является оценивание доверительных интервалов, содержащих с заданной вероятностью истинное значение параметра. Этот вид оценивания называют интервальным оцениванием.