4.5.2. Информационная интерпретация структуры связей.

Математическое выражение количества информации в векторе X относительно вектора Y определяется [751 как

где — соответственно плотности распределения X, Y и (X, Y).

В нормальном случае информация, заключенная в подмножестве координат вектора относительно подмножества координат задается выражением формула

(4.32)

Пусть определено, как в предыдущем пункте, тогда [561

где В — любое подмножество компонент X, не содержащее целиком. Сравним (4.32) с формулой (20) [20, п. 2.5.2]. Из сравнения и (4.33) следует, что максимум взаимной информации между достигается на том же наборе компонент что и максимум коэффициента множественной корреляции. При этом структура связей выделяет не парные, а множественные зависимости, в большей степени отражающие реальное взаимодействие переменных. Для каждой компоненты с помощью графа структуры связей легко находится группа координат непосредственно связанных с и несущих максимальную информацию о ней.