10.10. Планирование для принятия решения

До сих пор наша цель выглядела несколько абстрактной, поскольку была связана с трактовкой «истинных» моделей и значений параметров. Поэтому для отбора экспериментов мы использовали несколько абстрактную меру информации. Когда определение значений параметров требуется для достижения некоторой точно определенной цели, то может оказаться более естественным минимизировать общую ожидаемую цену достижения этой цели. Мы уже вводили (раздел 4.16) функцию потерь с которая представляет собой потери, связанные с использованием значения 0, когда истинным значением является 0. Аналогичным образом мы введем функцию которая представляет собой затраты на осуществление последовательности экспериментов Результатом на выходе этих пока еще не выполненных экспериментов является случайная переменная плотность распределения которой равна . Эта последняя функция является по определению еще и функцией правдоподобия некоторой гипотетической выборки Следовательно, при заданной априорной плотности распределения мы можем для любого возможного результата на выходе образовать апостериорную плотность Мы можем также образовать ожидаемую (маргинальную) плотность распределения величины назначая для каждого возможного значения функции вес :

Пользуясь формулой мы можем вычислить риск, связанный с применением значения 0, при условии, что результатом на выходе тех экспериментов, которые необходимо выполнить, будет некоторое определенное значение

Как только результат становится известным, мы будем выбирать значение 0, конечно, так, чтобы минимизировать риск. Обозначим этот минимальный риск

Мы не можем пока вычислить величину поскольку мы не измеряли Однако, следуя Райфе и Шлейферу [163], мы можем найти ожидаемое значение величины путем усреднения по всем возможным результатам на выходе для предполагаемых экспериментов X и пользуясь той плотностью которая была определена в формуле

Функция это ожидаемый риск, связанный с осуществлением экспериментов К нему мы добавим цену выполнения экспериментов чтобы получить полную ожидаемую стоимость экспериментов X:

Мы будем проводить то множество экспериментов X, для которого цена минимальна. Среди возможных последовательностей экспериментов есть нулевая последовательность, т. е. когда никаких экспериментов не делается вообще. В этом случае и Следовательно, величина не зависит от и

Теперь мы рассмотрим случай, когда обе плотности распределения нормальны. Пусть

где, как обычно, обозначает -мерный вектор, полученный последовательным выписыванием одной за другой строк матрицы а есть совместная ковариационная матрица ошибок во всех предполагаемых экспериментах, обычно задаваемая формулой Мы теперь предположим, что уравнения модели в интересующей нас области могут быть достаточно точно аппроксимированы разложением в ряд Тейлора, в окрестности точки с сохранением членов первого порядка, т. е.

где и Заметим, что матрица В есть функция от Теперь равенство можно переписать в виде

В качестве упражнения мы оставляем читателю возможность показать, что как апостериорная плотность распределения 6, так и маргинальная плотность распределения будут также нормальными. Точнее,

где

и

где

Ситуация оказывается особенно простой, если функция потерь квадратическая, т. е. такая, как в формуле

где есть заданная положительно-определенная (или, по крайней мере, полуопределенная) матрица. Как было показано в разделе 4.16, это ведет к оптимальному выбору (среднее апостериорного распределения). Тогда минимальный риск — это математическое ожидание квадратичной формы при апостериорном распределении, т. е.

При беглом взгляде на равенство обнаруживается, что матрица V и, следовательно, риск не зависят от поэтому и

Если применима формула то

При минимизации цены мы можем попытаться найти оптимальное число экспериментов наряду с условиями, при которых они должны осуществляться. Если эксперименты должны выполняться один за другим, то единственное, что надо сделать в каждый данный момент, — это найти оптимальные условия для единственного эксперимента и сравнить связанную с этим минимальную цену с ожидаемой ценой невыполнения никаких экспериментов вообще (которая равна следу если выполняется равенство Если результат на выходе благоприятствует добавочному эксперименту, то мы выполняем этот эксперимент, заменяем на и повторяем процедуру. Правило остановки очевидно: прекратить проведение экспериментов, когда ожидаемая цена при отсутствии экспериментов окажется меньше минимальной ожидаемой цены следующего эксперимента.

Нужно добавить, что, хотя обрисованная выше процедура концептуально проста и привлекательна, ее осуществление в большинстве

практических ситуаций — дело не простое. Хотя минимизация цены (10-10-18) не труднее, чем минимизация функции почти всякая другая функция потерь ведет к серьезным вычислительным трудностям, которые возникают из необходимости вычислять многомерные интегралы с бесконечными пределами для всех возможных значений величин . К этому нужно добавить трудность задания реалистических функций стоимости — задачи никоим образом не тривиальной.

10.11. Задачи

(см. скан)