Применяя множители Лагранжа, можно доказать, что
будет минимальна в случае, если все
равны. Тогда
где
есть средняя дифференциальная энтропия:
Искажение (9.4) зависит от базиса вейвлетов
через
. В общем случае трудно найти
минимизирующий
так как плотность распределения вероятности
может зависеть от
сложным образом. Если
распределен по гауссовскому закону, то коэффициенты
будут гауссовскими случайными переменными в любом базисе. В этом случае плотность распределения вероятности
зависит только от дисперсии
и
Данное выражение подставляется в (9.4) :
Известно, что
минимально, если и только если G является базисом Карунена-Лоэва для Y, то есть G диагонализирует ковариационную матрицу Y. Таким образом, оптимальным с точки зрения кодирования с преобразованием базисом для гауссовского процесса является базис Карунена-Лоэва. Если Y не является гауссовским (например, в случае изображения), базис Карунена-Лоэва не является априорно оптимальным.
Наиболее популярным при кодировании изображений является разделимый базис вейвлетов. Разделимый вейвлет-базис включает в себя три семейства вейвлетов с горизонтальной, вертикальной и диагональной ориентацией, индексируемые
При ориентации
и масштабе
вектор вейвлета