Пред.
След.
Макеты страниц
Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике Глава VI. ВЫЧИСЛЕНИЕ ОЦЕНОК II: ЗАДАЧИ С ОГРАНИЧЕНИЯМИА. ОГРАНИЧЕНИЕ ТИПА НЕРАВЕНСТВ6.1. Штрафные функцииОграничения типа неравенств вида Мы располагаем несколькими мощными алгоритмами для оптимизации без ограничений, и хотелось бы те же самые алгоритмы применить к задачам с ограничениями. Нам нужно модифицировать целевую функцию таким образом, чтобы она оставалась почти неизменной внутри допустимой области, но резко возрастала при подходе к границам, задаваемым ограничениями. Чтобы этого добиться, мы назначим штрафную функцию по каждому из ограничительных неравенств. Эта функция почти равна нулю, когда ограничивающая функция строго положительна, но резко возрастает по мере того, как значения ограничивающей функции приближаются сверху к нулю. Следуя Кэрроллу [45], для ограничения вида
мы назначим штрафную функцию
где
Пусть
В методе последовательной максимизации без ограничений (МПМБО), представленном первоначально в статье Кэрролла и затем расширенном Фиакко и Мак-Кормиком, используются эти представления следующим образом: 1) выбрать 2) найти 0. применяя какой-нибудь из методов оптимизации без ограничений; 3) уменьшить величину Поиск минимума для Этот пример иллюстрирует то важное обстоятельство, что путь из допустимой исходной точки к допустимому минимуму может проходить через недопустимую территорию. Если бы суть дела была всегда такой простой, как в нашей иллюстрации, мы могли бы просто совсем не иметь дела с ограничениями. Однако на практике может случиться, что существует локальный минимум в недопустимой области или же что Невозможно даже вычислить значение функции для недопустимого значения параметра (такое часто случается с динамическими системами, дифференциальные уравнения которых становятся неустойчивыми). Отсюда следует важность получения таких путей, которые целиком лежат внутри допустимой области. Допустим, что 0 — «хорошая» точка в пределах допустимой области. Тем самым признается, что имеет место случай, когда величина
Рис. 6.1. Контуры функции Ф: минимизация без штрафных функций
Рис. 6.2. Контуры функции Если же точка 0 оказалась вблизи некоторых ограничений (заметное значение суммы
при всех итерациях, кроме последней, и неравенство
в этой последней итерации, которая делается уже без штрафных функций. Здесь величина Если мы используем для оптимизации штрафных функций. Из равенства
Когда точка 0 расположена далеко от
которое не требует вычисления вторых производных от ограничивающих функций. Тут есть аналогия с тем, как вторые производные от уравнений модели гасятся в методе Гаусса. Отметим также, что в равенстве Часто (например, при ограничениях сверху и снизу) ограничения являются линейными функциями, для которых в любом случае вторые производные обращаются в нуль. Тогда равенство Выбор начальных значений для
что соответствует границам
Метод штрафных функций легко программируется, и было замечено: он хорошо работает, когда известно (или ожидается), что решение лежит внутри допустимой области. Если предполагается, что решение было на границе, то предпочтительнее метод проекции, который будет обсуждаться ниже. С помощью метода проекции даже внутреннего минимума можно достичь быстрее, но применение несколько затруднено его сложностью. Предлагались и другие методы штрафных функций, отличные от описанного здесь метода, например, Занвиллом 1193], Фиакко и Мак-Кормиком [74]. Эти методы обладают тем преимуществом (для общей задачи нелинейного программирования), что начальное приближение и точки промежуточных итераций не ограничены внутренностью допустимой области, т. е. они допускают нарушение ограничений. Однако в случае задач оценивания параметров это не дает никаких преимуществ. Во-первых, обычно легко удается оставаться в пределах допустимой области в силу простоты природы ограничений. Во-вторых, поведение целевой функции часто носит неустойчивый характер и за пределами допустимой области она может быть даже невычисляемой. Важность того, что необходимо оставаться внутри допустимой области, уже подчеркивалась выше. Хотя может показаться, что введение штрафных функций есть просто вычислительный трюк, в действительности они имеют статистическую интерпретацию. Допустим, что
В качестве примера предположим, что 0 1, и будем считать, что
так что
а это есть плотность
|
1 |
Оглавление
|