1.3. Функции расстояния

Определение 1.1. Неотрицательная вещественнозначная функция называется функцией расстояния (метрикой), если:

Значение для заданных называется расстоянием между и эквивалентно расстоянию между U и соответственно выбранным характеристикам

В таблице 1.1 приводятся примеры некоторых наиболее употребительных функций расстояния.

Евклидова метрика очень популярна и наиболее употребительна. Метрика абсолютных значений наиболее простая с вычислительной точки зрения. Сюпремум-норма также легко вычисляется и включает в себя процедуру упорядочивания. -норма охватывает функции расстояния 1, 2 и 3, соответственно

Расстояние Махаланобиса часто называют обобщенным евклидовым расстоянием. обычно обозначает

Таблица 1.1. Некоторые функции расстояния

матрицу, обратную к матрице рассеяния (см. параграф 1.5). Расстояние Махаланобиса инвариантно относительно невырожденных линейных преобразований. Рассмотрим преобразование . Тогда

Существуют другие, эвристические, меры отдаленности, не являющиеся расстояниями с точки зрения определения 1.1, которые, однако, также применяются на практике. Например, мера Джеффриса — Матуситы [81], [82], [259], которая определяется по формуле

и другая мера, известная под названием «коэффициент дивергенции» [55].

Мера Джеффриса — Матуситы первоначально была введена в качестве расстояния между двумя функциями плотностей вероятности, однако в форме (1.1) она может быть применена и как мера расстояния между парой векторов. В первоначальном применении коэффициента дивергенции были действительными средними и рассматривались как расстояние между выборочными средними двух выборок.

Следующая теорема позволяет упорядочить функции расстояния, определяемые по -норме.

Теорема 1.1. Неравенство выполняется для всех из тогда и только тогда, когда

Напомним, что из определения расстояния следует, что для