§ 1.2. Критерии оптимальности
Любая задача
оптимизации может быть сведена к выбору лучшего в некотором смысле варианта из
большого числа вариантов. Каждый из этих вариантов характеризуется набором
чисел (или функций). Качество того или иного варианта определяется некоторым
показателем — численной характеристикой, определяющей близость достижения
поставленной цели при выбранном варианте.
Наилучший вариант соответствует
экстремуму показателя качества, т. е. минимуму или максимуму в зависимости от
конкретной задачи. Показатели качества обычно представляют собой функционалы.
Эти функционалы можно рассматривать как функции, в которых роль независимых
переменных играют некоторые кривые или векторы, характеризующие варианты.
Функционал, зависящий от вектора, представляет собой просто функцию многих
переменных. Мы далее будем рассматривать в основном функционалы, зависящие от
вектора, к которым можно сводить функционалы, зависящие от функции, на основе
прямых методов вариационного исчисления.
В общей форме
показатель качества можно представить в виде условного математического
ожидания
. (1.1)
или кратко
. (1.2)
где — функционал вектора , зависящий также от
вектора случайных последовательностей или процессов , плотность распределения которого равна ; — пространство векторов . Здесь и далее все векторы
представляются столбцовыми матрицами.
В выражении (1.2) явно не
подчеркнута возможная зависимость функционала от известных векторов, с которой
мы всегда будем сталкиваться при рассмотрении конкретных задач. К уравнению
(1.2) сводится целый ряд различных по своей форме показателей качества. Так,
например, весьма распространенный в теории статистических решений средний риск
— байесовский критерий — определяется как
. (1.3)
В этом выражении приняты
следующие обозначения: — вероятность того, что наблюдаемый
элемент относится
к подмножеству множества,— условная плотность
распределения вероятности па подмножестве . Далее, — решающее правило, зависящее от
неизвестного вектора параметров , такое, что
(1.4)
Наконец, — элементы платежной матрицы , определяющие
стоимость ошибочных решений.
Представим формулу для в виде
. (1.5)
Отсюда следует, что можно рассматривать
как условное математическое ожидание случайной величины с некоторым распределением
Иногда удобно использовать
показатель качества, определяющий вероятность того, что величина находится в
заданных пределах ,
т. е.
. (1.6)
Вводя новую переменную, так
называемую характеристическую функцию
(1.7)
можно преобразовать (1.6) к виду
,
(1.8)
что совпадает по форме с (1.2).
Достижению цели соответствует
минимум (например, в случае (1.3)) или максимум (например, в случае (1.6)).
Поэтому функционалы часто называются также критериями оптимальности.