7.6. ВЫБОР ПРИЗНАКОВ ПРИ ПОМОЩИ РАЗЛОЖЕНИЙ ПО СИСТЕМЕ ОРТОГОНАЛЬНЫХ ФУНКЦИЙ

Концепция минимальной энтропии, развитая в предыдущем параграфе, основывается на предположении о нормальности распределения образов, составляющих заданные классы. Если это условие не выполняется, то следует воспользоваться другим подходом к решению задачи выбора признаков — методом разложения по системе ортогональных функций. Мы будем применять разложение Карунена — Лоэва. Основное преимущество этого разложения состоит в том, что оно позволяет обойтись без знания плотностей распределения образов, входящих в отдельные классы. Кроме того, как мы увидим ниже, разложение Карунена — Лоэва обладает двумя оптимальными свойствами, позволяющими ему служить полезным критерием при выборке признаков.

Прежде чем перейти к рассмотрению разложения Карунена— Лоэва, дадим краткий обзор процедуры разложения в ряд

Фурье с тем, чтобы подчеркнуть некоторую аналогию между этими разложениями. Разложение Карунена — Лоэва вводится для случая непрерывных образов, а затем распространяется на более важный с практической точки зрения дискретный случай. Последнему уделяется основное внимание, что объясняется важностью этого случая с точки зрения вычислений на ЭВМ и распознавания образов.

7.6.1. Разложение в ряд Фурье. Обзор

Стационарный периодический случайный процесс с периодом Т можно представить рядом Фурье

где — угловая частота, а случайные величины

суть коэффициенты Фурье. Для различных реализаций формула (7.6.2) в принципе дает различные значения коэффициентов Фурье При рассмотрении некоторого множества выборочных функций соотношение (7.6.2) определяет коэффициенты как случайные величины. Интеграл в (7.6.2) существует с вероятностью 1. Можно показать, что

Выполнение условия периодичности случайного процесса гарантирует взаимную независимость коэффициентов при . Используя выражение (7.6.2), получаем

где x обозначает величину, комплексно сопряженную , а

— корреляционную функцию. Поскольку корреляционная функция периодическая, запишем

Из (7.6.3) и (7.6.4) следует, что

Формула (7.6.5) свидетельствует не только о взаимной независимости коэффициентов Фурье при но также и о том, что коэффициент Фурье корреляционной функции равен дисперсии случайного коэффициента Фурье функции Это аналогично ситуации, имеющей место в детерминистском случае: для периодической функции коэффициент Фурье корреляционной функции равен квадрату коэффициента Фурье функции

Если стационарный процесс является периодическим, то случайные значения коэффициентов Фурье взаимно независимы. Можно показать и обратное: для того чтобы коэффициенты были взаимно независимы, необходима периодичность процесса. Если заданный случайный процесс не является периодическим, то соответствующая корреляционная функция не допускает подобного простого представления через дисперсии коэффициентов Фурье функции .