§ 4.6. Метод, основанный на сравнении вероятностных характеристик признаков

Сравнительная оценка качества признаков может быть произведена и в случае, когда условные плотности распределений неизвестны, однако известны первые и вторые моменты этих распределений: та и Оценка, основанная на использовании этих данных, возможна в связи с тем, что признаки могут быть условно подразделены на две группы.

Рис. 4.4

К первой группе относятся признаки, значения которых незначительно изменяются при переходе от одного объекта данного класса к другому объекту и весьма заметно изменяются при переходе от объекта одного класса к объектам других классов.

Ко второй группе относятся признаки, значения которых чувствительны к переходам от объекта к объекту данного класса и лишь незначительно изменяются при переходах от объектов одного класса к объектам других классов.

Признаки, относящиеся к первой группе, полезней признаков, относящихся ко второй группе. Количественная оценка меры полезности или качества признаков может быть произведена следующим образом. Пусть некоторый механизм вырабатывает значения признака с вероятностями, равными априорным вероятностям

Определим математическое ожидание некоторой фиктивной случайной величины, принимающей значения с вероятностями

а также математическое ожидание дисперсии признака по классам:

Если то при прочих равных условиях качество признака выше, чем качество признака так как вдоль

оси признака объекты располагаются компактней, чем вдоль оси признака

Дисперсия математического ожидания распределений признаков при переходе от класса к классу

Если то при прочих равных условиях качество признака выше, чем качество признака так как вдоль оси признака объекты, относящиеся к разным классам, располагаются на удалениях больших, чем вдоль оси признака Геометрическая интерпретация сказанного прослеживается при рассмотрении рис.

Б качестве критерия сравнительной оценки признаков целесообразно использовать величину

при этом наилучший признак — тот, который реализует

И значит, если то качество признака выше, чем качество признака