3.3. ВОССТАНОВЛЕНИЕ ИЗОБРАЖЕНИЙ МЕТОДАМИ НЕКОРРЕКТНЫХ ЗАДАЧ ОПТИМИЗАЦИИ

Проведенный анализ различных методов восстановления позволяет сформулировать ряд требований, предъявляемых к алгоритмам восстановления, которые в основном сводятся к следующему.

1. Для получения качественного восстановления требуется алгоритм, который позволяет расширить полосу пространственных частот и обеспечивает неотрицательность решения. Ясщэ, что такой алгоритм должен быть нелинейным.

2. Алгоритм должен обладать устойчивостью к шумам на входе. При этом устойчивость задачи должна достигаться не с помощью каких-либо частных приемов, а обязательно использованием общего математического подхода, основанного на регуляризации.

3. Алгоритм восстановления должен одинаково хорошо восстанавливать различные классы изображений (например, как импульсные, так и протяженные объекты), при этом следует добиваться независимости математического формализма от частной конкретной ситуации.

4. Алгоритм должен иметь «наращиваемую» структуру. Это значит, что в зависимости от имеющихся априорных сведений о сигнале, в общую структуру универсального алгоритма можно вводить дополнительные ограничения, не меняя вычислительной схемы.

5. Алгоритм должен давать возможность управления процессом восстановления с целью учета специфической структуры изображения.

Линейные методы объединены единым подходом к решению задачи — оптимизацией решения на основе некоторой квадратичной меры качества и регуляризации соответствующей задачи. Исследование нелинейных теоретико-информационных методов показывает, что такого единого подхода для них не существует. Многообразие методов и приемов, часто эвристических, применение различных статистических моделей, все это требует выработки некоторой общей концепции в этой области.

Обратимся еще раз к линейным алгоритмам восстановления, уже рассмотренным в гл. 2, однако сконцентрируем внимание на несколько ином подходе: решении задачи линейной фильтрации как задачи нахождения экстремальных значений некоторого функционала.

Будем называть билинейным функционалом некоторое отображение функций в число причем [59]

Билинейный функционал называется ограниченным, если можно указать такое вещественное число К, что для любых

Квадратичный функционал определяется как билинейный функционал от одинаковых аргументов:

Можно показать, что каждому функционалу соответствует линейный оператор такой, что

Примером квадратичного функционала может служить энергия сигнала (интенсивность изображения), определяемая следующим образом:

Задача оптимизации состоит в поиске такого решения которое максимизирует или минимизирует функционал . В стационарной точке функционала должна обращаться в нуль производная функционала по направлению

Можно показать [59], что если функционал представляет собой линейную комбинацию квадратичного и линейного функционала, то необходимые условия экстремума выразятся линейными уравнениями и в общем случае решение задачи может быть получено с помощью линейного оператора

Рассмотрим теперь среднюю квадратическую ошибку

Очевидно, этот функционал можно представить как сумму линейного и квадратичного функционалов

Таким образом, задача нахождения сигнала минимизирующего всегда выражается в форме линейного оператора. К линейному оператору сводится и решение задачи регуляризации:

Обратимся теперь к решению тех же задач, основанных на линейных и квадратичных функционалах, но содержащих ограничения на неотрицательность решения. В этом случае задача оптимальной фильтрации превращается в задачу минимизации функционала при условиях

Введение последнего условия приводит к тому, что суммарный функционал не может быть выражен в виде квадратичных и линейных функционалов, следовательно, его решение уже не может быть получено линейным оператором. Основной особенностью нелинейных задач является отсутствие аналитических решений, что требует применения численных методов оптимизации (см. гл. 7). Необходимо отметить, что если бы мы не знали о том, что задача оптимальной фильтрации, например, имеет аналитическое решение, мы могли бы воспользоваться теми же методами оптимизации, что и для решения нелинейных задач.

Таким образом, решение задачи оптимальной фильтрации с ограничением на неотрицательность решения может дать первый возможный алгоритм, позволяющий удовлетворить требованию 1. Очевидно, ту же задачу можно поставить

и в виде тихоновской регуляризации. Здесь требуется минимизировать функционал

при условии

Если задачу такого рода удается решить, то решение автоматически приобретает свойство неотрицательности. Кроме того, здесь можно управлять качеством восстановления за счет выбора параметра регуляризации а [75].

Вместе с тем, в §§ 3.1 и 3.2 было показано, что достаточно эффективно могут работать и другие методы, основанные на теоретико-информационных критериях качества. Рассмотрим, например, функционал энтропии:

Ясно, что функционал нелинеен, и, кроме того, логарифм гарантирует положительность решения. Таким образом, существуют алгоритмы, в которых нелинейность вносится не только ограничениями, но и самим критерием качества.

Нелинейность основного функционала, очевидно, должна приводить к некоторым специфическим особенностям решения. Возникает естественный вопрос: существует ли общая схема, которая позволяет объединить различные алгоритмы в одно логическое построение и каким алгоритмам следует отдавать предпочтение? Ответ на этот вопрос будем искать в результатах теории оптимизации, абстрагируясь от конкретного смысла тех или иных критериев качества изображения (с точки зрения теории оптимизации). Практически все алгоритмы восстановления можно представить в следующем общем виде. Требуется найти экстремальное значение некоторого функционала

при условии выполнения ограничения на формирование изображения

и других дополнительных ограничений. Это, по существу, означает, что получаемое решение должно удовлетворять уравнениям формирования, а его свойства будут определяться как видом основного функционала так и дополнительными ограничениями, накладываемыми на изображение.

Процесс оптимизации можно условно представить следующим образом. Если бы ограничений на процесс формирования не было, то характерный вид «потенциальной ямы» при оптимизации определялся бы видом функционала и решение, дающее экстремальное значение было бы одно и то же во всех случаях. Наличие ограничений «уводит» глобальный экстремум в сторону таким образом, что найденное решение является самым близким к «яме», если учитывать область ограничений на процесс формирования. Таким образом, из всего множества решений мы выбираем решение, лежащее в некоторой области ограниченной условиями

и в общем случае набором некоторых других условий

Обозначим через область, удовлетворяющую условиям Традиционный метод учета ограничений в вариационных задачах состоит в сведении задачи с ограничениями к задаче без ограничений с помощью множителей Лагранжа, который приводит к решению следующей задачи:

где множители Лагранжа, отвечающие условию в форме Отметим, что некоторые ограничения могут быть представлены в форме неравенств. Методы решения подобных задач рассматриваются нами в следующем параграфе.

В дальнейшем будем называть функционал определяющий меру качества решения задачи, функционалом-критерием, оговаривая в каждом конкретном случае его вид. Ограничения, которые необходимо учесть, составляют некоторый функционал ограничений, который будем обозначать где множители Лагранжа.

Таким образом, в общем виде задача восстановления изображений сводится к минимизации составного функционала

Отметим, что эта постановка задачи справедлива как для линейных (если комбинация линейного и квадратичного функционалов), так и нелинейных алгоритмов.

Остановимся на одном важном ограничении, накладываемом на процесс формирования изображения, когда уравнения формирования известны с точностью до шумовой компоненты

При таком ограничении функционал определен с точностью до случайного члена, равного скалярному произведению вектора шума и вектора множителей Лагранжа. Действительно,

где — неточно известный функционал ограничений, -скалярное произведение. Подставляя (3.36) в (3.35) получим

Это означает, что функционал, подлежащий минимизации, известен с точностью до случайного числа следовательно, возникает вопрос о том, будет ли задача минимизации функционала устойчива к возмущениям Как правило, при восстановлении изображений задача минимизации (3.37) оказывается некорректно поставленной: небольшим уклонениям соответствуют большие отклонения функции минимизирующей . В практике решения некорректных задач класс задач, описываемых соотношением (3.37), называется некорректными задачами минимизации функционала по аргументу или некорректными задачами оптимального управления.

Пусть на некотором пространстве задан непрерывный функционал Задача минимизации по аргументу заключается в поиске такого на котором достигает своего наименьшего значения:

Предположим, что решение этой задачи единственно и минимизирующая последовательность, т. е.

Задача минимизации называется устойчивой, если всякая минимизирующая последовательность сходится к элементу Эта задача называется корректно поставленной, если она разрешима и устойчива. Если задача минимизации оказывается некорректно поставленной, то регуляризация сводится к построению такой последовательности которая сходится к некоторому близкому к элементу Таким образом, последовательность для минимизации функционала можно называть регуляризованной, если существует компактное в множество содержащее Это означает, что задачу регуляризации можно свести к построению регуляризованных минимизирующих последовательностей. Такие последовательности могут быть получены с помощью стабилизирующих функционалов (см. § 2.1). В частности, для функционала

доказана следующая теорема [53]. Для всякого существует такое что для всякого элемента

выполняется неравенство

Эта теорема, по существу, гарантирует то, что задача минимизации функционала является регуляризованной. Таким образом, для регуляризации (3.37) достаточно добавить в правую часть стабилизирующий функционал Вид достаточно произволен, в частности, широко используются функционалы вида

которые обеспечивают «гладкость» решения.

Таким образом, общая постановка задачи восстановления изображений на основе решения некорректных задач оптимального управления может быть сформулирована следующим образом. Требуется минимизировать выражение

где -критерий; — функционал ограничений задачи; -стабилизирующий функционал.

Роль функционала-критерия сводится к выбору некоторой меры качества получаемого изображения; функционал ограничений позволяет учесть уравнения формирования и другую дополнительную информацию, априорно известную о задаче; стабилизирующий функционал обеспечивает устойчивость решения задачи к шумам.

Покажем, каким образом из выражения (3.39) можно получить различные алгоритмы восстановления изображений.

а) Тихоновская регуляризация.

Положим функционал-критерий равным .

Тогда уравнение формирования непосредственно входит в следовательно, функционал не нужен. Получим

Если наложить дополнительное условие то находим

где отвечает за выполнение условия неотрицательности.

б) Оптимальная винеровская фильтрация.

Положим Учтем ограничения

Получаем алгоритм оптимальной фильтрации по Винеру (см. § 2). Этот алгоритм является примером того, как различные ограничения на изображение могут и без применения регуляризирующего оператора привести к устойчивости задачи. В дальнейшем мы часто будем встречаться с подобной ситуацией: там, где решение без ограничений неустойчиво, при наложении ограничений оно становится нечувствительным к шумам входных данных.

в) Теоретико-информационные методы восстановления.

Запишем функционал-критерий в виде некоторого нелинейного функционала, имеющего статистический смысл (например, энтропия). Наложим на задачу минимизации следующие ограничения: уравнение формирования изображения требование на неотрицательность решения Если считать, что условие выполняется уже на этапе выбора функционала, то получим алгоритм, требующий минимизировать составной функционал:

Полученный алгоритм можно интерпретировать как метод максимума энтропии с регуляризацией. Интересно, что задача максимизации энтропии в форме (3.25) может рассматриваться как решение с регуляризацией, если энтропию шума, взятую с весовым коэффициентом считать некоторым регуляризирующим функционалом.

Остановимся еще на одном важном вопросе: чем определяется выбор функционала-критерия задачи? К сожалению, однозначного ответа на этот вопрос дать нельзя. Дело в том, что качество восстанавливаемого изображения определяется не только выбором но и ограничениями, накладываемыми на изображение. Следует отметить, что нелинейные функционалы являются более предпочтительными, чем квадратичный и линейный, так как они позволяют эффективно расширить полосу пространственных частот (см. также гл. 5). Если задачу минимизации (3.39) представить в виде действия на входные данные некоторого оператора то для нелинейного функционала этот оператор будет нелинейным и, следовательно, получаемое решение

может содержать в своем спектре частоты, потерянные в искаженном изображении. Легко представить себе, что если степень этой нелинейности будет больше, то энергия новых частотных составляющих должна возрастать.

Подведем итоги и рассмотрим, как можно реализовать требования, предъявляемые к алгоритму восстановления, сформулированные в начале параграфа.

1. Расширение полосы пространственных частот и ограничение на неотрицательность решения достигаются либо введением в выражение (3.39) ограничения вида либо (возможно и совместное использование) выбором соответствующего нелинейного функционала-критерия При этом можно показать (см. гл. 5), что в спектре восстановленного изображения будут содержаться новые частоты, отсутствовавшие в искаженном сигнале.

2. Устойчивость задачи достигается введением стабилизирующего функционала выбираемого на основе теории регуляризации. При этом уклонение решения от истинного заведомо не будет превосходить малой величины 8.

3. Применимость алгоритма к восстановлению различных классов изображений решается путем введения в общий алгоритм некоторой дополнительной априорной информации

об ожидаемых свойствах решения Действительно, если мы знаем, например, что объект состоит из набора «точек» (импульсов) на однородном фоне, это обстоятельство можно использовать в алгоритме поиска решения.

4. Получение универсального алгоритма с легко перестраиваемой структурой. Из выражения (3.39) легко видеть, что различные ограничения, накладываемые на изображение, могут быть добавлены в общую схему алгоритма без изменения его основной структуры, просто расширением функционала ограничений.

5. Возможность управления процессом восстановления вытекает из возможности варьирования параметром а и использования ограничений на процесс восстановления. Добавляя или устраняя те или иные ограничения, мы можем оценивать качество получаемого изображения.

Итак, постановка задачи восстановления изображений как некорректной задачи минимизации является достаточно универсальной и может удовлетворить требованиям, предъявляемым к алгоритмам восстановления. Основным достоинством модели (3.39) является возможность использования ограничений на получаемое решение, чем достигается сужение класса допустимых решений. Вопрос о том, какие ограничения используются на практике и как построить функционал ограничений рассматриваются в следующем параграфе.