6.5.4. Оценка спектра по максимуму энтропии

Метод одномерной оценки спектра по максимуму энтропии изучался многими исследователями. Успех и популярность этой методики применительно к задаче анализа речи [30] и обработки геофизических сигналов [22] привели к ее обобщению на двумерные случаи [31-36]. Однако здесь опять между одномерным и двумерным решениями этой задачи имеются некоторые принципиальные отличия.

Концепция оценки спектра по максимуму энтропии относительно проста. Примем, как и раньше, что нам известны значения коэффициентов автокорреляции  в области , . Будем искать оценку спектра таким образом, чтобы ее обратное преобразование Фурье соответствовало известным коэффициентам автокорреляции и в то же время принималось как можно меньше допущений о неизвестных коэффициентах автокорреляции. Следовательно, мы стремимся максимизировать случайность или энтропию оценки спектра при ограничениях, заданных известными коэффициентами автокорреляции. Следуя результатам работ [31,32,34,35], определим энтропию  случайного процесса с энергетическим спектром  в виде

.                                               (6.196)

Часто масштабный множитель  опускают; мы оставим его для сохранения нормировки.

В терминах теории оптимизации [37] эту задачу оптимизации при наличии ограничений можно сформулировать как задачу такого выбора , чтобы  была максимальной, при условии что

 для , .             (6.197)

Эту задачу можно переформулировать, разложив  в ряд Фурье и затем отыскивая максимум энтропии  путем дифференцирования ее по неподверженным ограничивающим условиям коэффициентам ряда Фурье. Начнем с записи энергетического спектра в виде суммы двух слагаемых: одного, построенного по известным коэффициентам автокорреляции, а другого - по неизвестным

.  (6.198)

Подбирая значения , для которых  или , мы можем максимизировать энтропию . Если мы продифференцируем  по этим  и приравняем полученные частные производные нулю, мы увидим, что энтропия  принимает максимальное значение при выполнении следующего условия [32]:

 для , .                  (6.199)

Из этого следует, что обратное преобразование Фурье  должно быть последовательностью конечной протяженности. Отсюда в свою очередь следует, что оценка энергетического спектра по максимуму энтропии имеет вид

,                     (6.200)

где . Параметры  должны выбираться таким образом, чтобы выполнялось условие согласования с известными коэффициентами автокорреляции, т. е.  для , , где

.                               (6.201)

Вид оценки спектра по максимуму энтропии не зависит от размерности [32]: как одномерная, так и -мерная оценки обратно пропорциональны усеченным рядам Фурье, аналогичным (6.200). Однако определение параметров  в двумерном случае гораздо сложнее, чем в одномерном.

То же решение задачи на максимум энтропии можно получить методом множителей Лагранжа, с тем чтобы перейти от оптимизации с ограничениями к оптимизации без ограничений [35]. Оказывается, что множители Лагранжа - это те же параметры , что и в формуле (6.200). Следовательно, любой подход к задаче на максимум энтропии приводит к проблеме дуальной оптимизации [37].

В одномерном случае оценка спектра по максимуму энтропии идентична чисто полюсной оценке спектра [30]. Благодаря возможности разложения одномерных полиномов на множители оценку спектра по максимуму энтропии всегда можно записать в виде произведения частотного отклика с минимальной фазой, обладающего только полюсами, на его комплексное сопряжение. Эта форма записи идентична записи одномерной чисто полюсной спектральной модели. Эффективный в вычислительном отношении алгоритм расчета одномерной чисто полюсной модели спектра дает также спектральную оценку по максимуму энтропии со свойством автокорреляционного согласования.

В двумерном случае оценка спектра по максимуму энтропии и чисто полюсная оценка спектра не совпадают. Как уже упоминалось в предыдущем разделе, чисто полюсная спектральная модель не имеет достаточного количества степеней свободы, чтобы согласовать известные коэффициенты автокорреляции. Поскольку согласование является условием оценки по максимуму энтропии, ясно, что чисто полюсную оценку спектра нельзя рассматривать как решение задачи на максимум энтропии.

Вудс [33] доказал, что спектральная оценка по максимуму энтропии существует и является единственной в том случае, когда известные коэффициенты автокорреляции  соответствуют отсчетам какой-либо автокорреляционной функции. В одномерном случае если матрица , построенная из известных коэффициентов автокорреляции, является положительно определенной, то существует и автокорреляционная функция, содержащая известные коэффициенты автокорреляции. Однако в двумерном случае положительная определенность матрицы  недостаточна для гарантии существования автокорреляционной функции, содержащей известные коэффициенты автокорреляции [24-26], что уже упоминалось в предыдущем разделе. Следовательно, в доказательстве существования и единственности, упомянутом выше, необходимо допустить, что известные коэффициенты автокорреляции  действительно являются отсчетами двумерной автокорреляционной функции.

Такой результат несколько неудобен в практических приложениях, когда коэффициенты автокорреляции измеряются или рассчитываются по результатам измерений случайного процесса. Из-за ошибок измерений или расчетов набор чисел, принятый в качестве «известных» коэффициентов автокорреляции, может не соответствовать любой двумерной автокорреляционной функции, что в свою очередь означает, что не существует оценки спектра по максимуму энтропии, соответствующей этим числам.

Простым и понятным подходом к задаче поиска спектральной оценки по максимуму энтропии является запись уравнения, связывающего энтропию  с энергетическим спектром  и применение к энтропии  нелинейного алгоритма оптимизации с целью установления его максимального значения при одновременной минимизации расхождения между известными коэффициентами автокорреляции и коэффициентами, соответствующими спектральной оценке  [31]. [На практике отсчеты  берутся с высокой частотой, и значения отсчетов варьируются с целью максимизации дискретной аппроксимации . Следовательно, результатом решения будут отсчеты .] Этот подход имеет то преимущество, что при этом можно учесть ошибки измерения или расчета «известных» коэффициентов автокорреляции, поскольку не требуется точного соответствия. Недостатком этого подхода является наличие большого количества вычислений, необходимых для выполнения процедуры нелинейной оптимизации, в особенности в тех случаях, когда число отсчетов по частотам и количество коэффициентов автокорреляции, которым необходимо найти соответствие, велики.

Задачу на максимум энтропии в дуальном пространстве можно сформулировать как задачу минимизации [35]. Например, Бург [38] предложил следующую оптимизационную задачу для отыскания двумерной спектральной оценки по максимуму энтропии:

.                  (6.202)

Вектор  применен для удобства обозначений и представляет параметры , а функция  напоминает нам, что функционал энтропии  связан с этими параметрами соотношением

,                             (6.203)

где  описывается выражением (6.200). Благодаря дуальности задача максимизации  при ограничениях на корреляционное соответствие обращается в задачу минимизации. Если продифференцировать выражение в скобках в уравнении (6.202) по  и приравнять полученные частные производные нулю, получим уравнение

 для , ,                 (6.204)

что, разумеется, является условием корреляционного соответствия. Для решения задачи минимизации (6.202) можно использовать оптимизационные алгоритмы (например, метод Ньютона), что позволяет получить спектральную оценку, максимизирующую энтропию и удовлетворяющую ограничениям корреляционного соответствия.

Задачу оценки спектра по максимуму энтропии можно также свести к задаче минимизации с ограничениями [36]. Определим вектор , компонентами которого являются известные коэффициенты автокорреляции , и образуем скалярное произведение

.                              (6.205)

Равенство (6.205) будет выполняться в случае, если параметры  соответствуют искомой спектральной оценке по максимуму энтропии. Тогда скалярное произведение  принимает следующий вид:

               (6.206)

Поскольку числитель подынтегрального выражения есть не что иное, как определение , согласно (6.200), подынтегральное выражение равно единице, и, следовательно,

.                                                                                                     (6.207)

Это равенство должно выполняться для спектральной оценки по максимуму энтропии. Его можно рассматривать как ограничение, накладываемое на параметры . Тогда дальнейшей целью является минимизация энтропии  при линейном ограничении . И снова, поскольку мы решаем дуальную задачу, минимизация энтропии  дает спектральную оценку по максимуму энтропии.

Эту задачу минимизации с ограничениями можно переформулировать в задачу минимизации без ограничений, если использовать линейное ограничение (6.207) для устранения параметра  [35, 36]. Используя определение скалярного произведения, можно решить уравнение (6.207) относительно , в результате чего получим

.                  (6.208)

Затем задача минимизации решается для параметров .

Вычисление спектральной оценки по максимуму энтропии можно также сформулировать как итеративную процедуру [34]. Вид , заданный уравнением (6.200), требует, чтобы выполнялось условие

 для  или .                                               (6.209)

Аналогично свойство автокорреляционного соответствия требует выполнения условия

 для  и .                                         (6.210)

Эти два ограничения могут накладываться поочередно до получения сходимости.

Пример 1

На рис. 6.15 дается сравнение результатов применения нескольких методов оценки спектра, обсуждаемых в настоящей главе. В качестве входа были использованы 25 коэффициентов корреляции вида

 для , .

Эта корреляционная функция соответствует двум плоским волнам в белом шуме. (Из-за симметрии из 25 коэффициентов независимы только 13.) Для этого примера  и .

Рис. 6.15.

а - оценка спектра по периодограмме; б - оценка спектра с высоким разрешением: в - чисто полюсная оценка спектра в первом квадранте. + - истинные положения спектральных пиков. Контуры соответствуют постоянному уровню (в дБ).

Рис. 6.15.

г - чисто полюсная оценка спектра во втором квадранте; д - комбинированная чисто полюсная оценка спектра; е - оценка спектра по максимуму энтропии, вычисленная по итеративному алгоритму. + - истинные положения спектральных пиков. Контуры соответствуют постоянному уровню (в дБ). (Рис. е - с любезного согласия Джей С. Лима и Навида А. Малика [34]. © 1981. IEEE)

На рис. 6.15,а приведены результаты оценки энергетического спектра по периодограмме. Из-за малого количества отсчетов функций корреляции периодограмма не разрешает два пика. (Действительное положение пиков помечено крестиками.)

На рис. 6.15,б приведена оценка этого спектра с высоким разрешением. Хотя два пика не разрешаются этим методом, вдоль линии, соединяющей оба пика, образуется гребень.

На рис. 6.15,в показан результат чисто полюсной оценки спектра в первом квадранте. Множество коэффициентов  имеет ненулевые значения для  и . Оценка спектра дает два явных пика, но они далеки от расположения истинных пиков. Чисто полюсная оценка спектра во втором квадранте приведена на рис. 6.15,г. Она не позволяет разрешить пики, но дает узкий гребень в общем направлении линии, соединяющей действительное положение двух пиков. На рис. 6.15,д приведен результат комбинации чисто полюсных оценок спектров в первом и втором квадрантах по (6.195). Комбинированная оценка также не позволяет разрешить пики, но чувствуется, что оценка спектра несколько улучшилась в случае комбинированной оценки по сравнению с оценками в каждом из квадрантов.

Наконец, на рис. 6.15,е приведена оценка спектра по максимуму энтропии. В этом случае оба пика явно разрешены. При этом для сходимости потребовались 43 итерации, а в расчете использовалось -точечное БПФ [34].