Глава 6. АДАПТИВНЫЙ БАЙЕСОВ ПОДХОД

6.1. ОБЩИЕ ПОЛОЖЕНИЯ

Основная идея адаптивного байесова подхода заключается в следующем. Пусть имеется существенная априорная неопределенность в статистическом описании данных наблюдения х, параметров к, влияюцих на последствия принимаемых решений или того и другого. Эта неопределенность не позволяет использовать обычный байесов формализм: найти для любого возможного правила решения величину среднего риска величину апостериорного риска и определить положение минимума апостериорного риска по и, т. е. найти значение минимизирующее апостериорный риск и представляющее собой оптимальное байесово решение. Нужно подчеркнуть, что это связано именно с незнанием, а не с существованием; на самом деле для любых конкретных условий в пределах имеющейся априорной неопределенности существуют вполне определенные, но неизвестные нам истинные значения для всех значения для всех и оптимальное решение обращающее в минимум

Попытаемся тем не менее использовать тот порядок, который принят при нахождении байесова правила решения. (Как уже не раз подчеркивалось, главным его элементом является нахождение минимума апостериорного риска по и положения этого минимума.) Чтобы реализовать это намерение, используем часть сведений, содержащихся в совокупности данных наблюдения х, для оценки истинной величины апостериорного риска с тем, чтобы получить его приближенное значение

для всех возможных решений и или хотя бы (что наиболее существенно) в окрестности его минимума. После того, как такая оценка получена, остается только воспользоваться стандартными рецептами для нахождения байесова решения, минимизировав вместо истинного оценочное значение апостериорного риска.

Если при этом оставшаяся после оценки апостериорного риска часть сведений из общей совокупности данных наблюдениях достаточна для получения нетривиального решения (минимум оценочного значение апостериорного риска по и достигается для значения и, неодинакового при разных то мы действительно получим решение задачи синтеза в условиях априорной неопределенности. Если же, кроме того, использованная нами оценка апостериорного риска является состоятельной и близка к его истинному значению, то найденное таким способом решение будет достаточно близко к оптимальному байесову решению при отсутствии априорной неопределенности, когда статистические описания и истинные значения среднего и апостериорного риска для всех и известны полностью

Проиллюстрируем эту идею двумя элементарными примерами.

Пример 1. Пусть имеется двухальтернативная задача, о которой уже шла речь в п. 4 3.2, т. е. требуется принять решение или по данным наблюдения состоящим из совокупности независимо распределенных величин, для которой плотность вероятности имеет вид (4.3.3)

где известно все, кроме параметра а, вносящего априорную неопределенность в статистическое описание данных наблюдения. Пусть также заданы функции потерь и априорные вероятности значений

Апостериорный риск в данной задаче

зависит от неизвестного параметра а, что не дает возможности сравнить его значения для и выбрать решение. Чтобы проделать требуемую минимизацию, нужно каким-то образом «узнать» значение а и подставить его в выражение (6.1.1). «Узнать» — это значит получить оценку для а по имеющимся данным наблюдения. В данном случае такая возможность имеется, поскольку все данные наблюдения, кроме вообще не входят в выражение (6.1.1) для апостериорного риска и оказались как бы ненужными.

Используем эти данные — совокупность значений для нахождения оценки неизвестного параметра а. Как уже не раз подчеркивалось, хорошей оценкой — асимптотически (а иногда и строго) эффективной, асимптотически нормально

распределенной и сходящейся к истинному значению с увеличением объема данных, использованных для ее нахождения (в данном случае числа наблюдений является оценка максимального правдоподобия. В соответствии с этим возьмем в качестве а оценку максимального правдоподобия а, определенную из уравнения

и подставим ее в выражение (6.1.1) для использования величины ) в качестве оценок неизвестных истинных значений апостериорного риска. После этого задача выбора решения становится вполне определенной и аналогично случаю отсутствия априорной неопределенности (а известно) получим

Если величина отклонения мала, то множество значений удовлетворяющих неравенству

мало отличается от множества значений определяемого неравенством

которое является областью принятия решения при отсутствии априорной неопределенности — известном значении а. Поэтому вероятностные меры этих множеств относительно любого распределения вероятности (в том числе распределений с плотностями отличаются друг от друга на величину, стремящуюся к нулю при Это означает, что условные и средние риски для решения из (6.1.2) и для оптимального решения при известном значении а также мало отличаются друг от друга и, следовательно, правило решения (6.1.2) является хорошим приближением к абсолютно оптимальному байесову правилу решения с полностью известным статистическим описанием.

Чтобы показать, что эти качественные рассуждения должны вызывать доверие, еще больше конкретизируем наш пример и дадим количественную оценку степени приближения правила решения (6.1.2) к оптимальному байесову. Пусть

и пусть для определенности истинное значение кроме того, Тогда оптимальное

байесово правило решения

а правило (6.1.2) приводится к тому же виду с заменой а «а оценочное значение а. Если в качестве последнего взять оценку максимального правдоподобия, то

где отклонение является случайной величиной с нулевым математическим ожиданием и дисперсией Тогда множества определяются следующим образом:

т. е. различаются между собой на интервал при или при длина которого является случайной величиной, порожденной случайностью в среднем (по ансамблю значений равна нулю и имеет среднеквадратичное значение стремящееся к нулю при увеличении Таким образом, вероятностные меры множеств могут отличаться между собой на величину порядка

Не представляет труда рассчитать величину среднего риска для обоих случаев. Обозначим

Средний риск оптимального байесова правила при известном а равен

а для адаптивного правила с использованием оценочного значения

Величины 2° и z нормальны, имеют одинаковые (при фиксированном ) математические ожидания

и дисперсии, одинаковые для и равные соответственно для и для z. Вычисляя с использованием нормального распределения соответствующие вероятности, входящие в выражение для щолучаем

где — интеграл вероятности

Из выражений (6.1.4) видно, насколько эффективен и хорош в данном случае рассматриваемый подход даже при различие между оптимальным и адаптивным байесовым правилами решения незначительно, а начиная с становится и вовсе несущественным.

Пример 2. Пусть требуется осуществить выбор одной из альтернатив по результатам наблюдения величины которая может принимать дискретные значения Обозначим соответствующее решение через Пусть априорные данные о виде функции потерь (тем самым и о параметрах Я этой функции) и о распределении вероятностей значений полностью отсутствуют, но мы располагаем дополнительными к данными наблюдения о серии из однородных и независимых повторений выбора решений из заданного множества альтернатив.

Пусть для каждого повторения известны: значение , которое наблюдалось перед принятием решения; само принятое решение и величина потерь к которым привел выбор решения Полная совокупность имеющихся перед принятием решения данных наблюдения х тем самым представляет собой совокупность значений

Благодаря независимости от остальной совокупности данных при отсутствии априорной неопределенности апостериорный риск решения зависел бы только от т. е.

и оптимальное байесово правило решения имело бы следующую структуру:

при

Используем все остальные данные наблюдения, которые при отсутствии априорной неопределенности вообще не нужны, для оценки функциональной зависимости апостериорного риска от Эта зависимость полностью определяется значениями которые и нужно оценить с помощью совокупности данных Обозначим через число раз, когда в серии наблюдалось значение и было принято решение Тогда состоятельной оценкой величины апостериорного риска является среднее арифметическое,

множество значений индекса при которых наблюдалось значение было принято решение

Используя эту оценку вместо истинной величины апостериорного риска, получаем следующее представление для адаптивного байесова правила решения:

при

С ростом оценка (6.1.6) сходится к истинному значению апостериорного риска, а правило решения оптимальному байесову правилу. При конечных значениях может оказаться, что какие-либо из значений при данном равны между собой, т. е. определяется неоднозначно. Тогда правило решения (6.1.7) следует дополнить, например, выбором наугад (с равными вероятностями) среди тех значений для которых выполняется равенство

В качестве иллюстрации сходимости этого адаптивного правила решения к оптимальному байесову рассмотрим простой пример, когда число возможных решений равно двум и число возможных значений наблюдаемой величины также равно двум Пусть потери от принятия любого из решений могут иметь два значения — нуль и единица, причем условная вероятность ненулевых потерь в случае принятия решения, при условии, что наблюдаемое значение есть а безусловная вероятность того, что есть (Заметим, что эти условия выполняются, например, для двухальтернативной задачи, в которой функция потерь Тогда

значение функции правдоподобия для -априорная вероятность ситуации является дополнением до единицы апостериорной вероятности ситуации условии Однако нужно заметить, что исходная постановка задачи шире, чем этот поясняющий пример.)

Если возможные значения потерь (0 и 1), условные вероятности этих потерь и вероятности значений известны, то мы имеем элементарную байесову задачу, в которой с легкостью находится апостериорный риск, оптимальное правило решения и минимальный байесов средний риск. Имеем соответственно

Пусть для определенности тогда

Рассчитаем теперь средний риск для адаптивного правила решения (6.1.7) в тех же условиях (с учетом дополнения его выбором решения наугад при равных значениях оценочного апостериорного риска для первого и второго решений).

Оценка (6.1.6) апостериорного риска в данном случае может быть записана как

где число раз, когда в серии из повторений при наблюдении и принятии решения потери оказались равными единице. При этом величина случайна и распределена на биномиальному закону:

Математическое ожидание оценки

совпадает с истинным значением апостериорного риска при любой последовательности наблюдений и решений

Для любого из значений например для может оказаться, что либо и тогда мы выберем первое решение с математическим ожиданием потерь либо и тогда мы неправильно выберем второе решение с математическим ожиданием потерь либо, наконец, и тогда мы благодаря выбору решения наугад с вероятностью выберем или или с математическим ожиданием потерь . Аналогичное положение будет иметь место и при . В итоге величина среднего риска для адаптивного правила решения определится следующим образом:

где вероятности выполнения неравенств и равенств вида

определяются с помощью биномиальных распределений для чисел

Приведем еще выражение для среднего риска правила, при котором решение при любом значении принимается наугад с вероятностью Можно показать, что при полном отсутствии априорных сведений и отсутствии дополнительных данных наблюдения это лучшее правило решения. Для него

Таблица 6.1 (см. скан)

Зависимость среднего риска от объема дополнительных данных наблюдения (числа для и нескольких совокупностей значений приведена в табл. 6.1. При этом предполагается, что при любом из приведенных значений числа одинаковы Значение соответствует выбору решения наугад, значение оптимальному байесову правилу принятия решения.

Приведенные примеры показывают, что рассматриваемый подход позволяет получить в условиях априорной неопределенности правила решения (алгоритмы обработки информации), которые обладают достаточно хорошими качествами. Даже при сравнительно небольшом количестве «избыточных» данных эффективность найденных правил решения близка к эффективности соответствующих оптимальных байесовых правил, а при увеличении объема полной совокупности данных наблюдения х происходит достаточно быстрая сходимость к результатам, которые имели бы место при отсутствии априорной неопределенности.

Вернемся снова к общему случаю. Имеет смысл еще раз пояснить суть рассматриваемого подхода. Она состоит в том, чтобы и в условиях априорной неопределенности сохранить для выбора наилучшего решения и нахождения наилучшего правила решения (алгоритма обработки информации) основное содержание байесова подхода. Это последнее заключается в том, что мы сопоставляем каждому состоянию наших знаний, которые характеризуются данными наблюдения х, ожидаемое значение потерь; осуществляем выбор решения, исходя из минимума ожидаемых при данном состоянии наших знаний потерь, и считаем оптимальным такое правило решения которое соответствует минимуму ожидаемых потерь для любого данного значения х. Именно в этом естественном принципе глубинный смысл байесова подхода — остальное же, на что подчас обращается излишне большое внимание: задание функции потерь, функции правдоподобия, априорного распределения, правила вычисления апостериорного распределения вероятности и апостериорного риска — относится к формальной, а не смысловой стороне подхода.

При этом предельно ясно, что смысловое содержание подхода - наилучшим решением является то, которое обеспечивает наименьшее значение ожидаемых потерь — вовсе не зависит от объема имеющихся априорных знаний. Степень полноты этих знаний влияет только на качество оценки ожидаемых потерь. При отсутствии априорной неопределенности ожидаемые потери для каждого из возможных решений и имеют точную количественную меру — величину апостериорного риска, которая определяется по простым формальным правилам как математическое ожидание потерь при данном состоянии наших знаний х. Нужно подчеркнуть, что эта оценка ожидаемых потерь (расчет величины апостериорного риска) производится по данным наблюдения х, а роль

имеющихся априорных сведений о виде функции потерь и распределений вероятности х и X заключается только в том, что они позволяют установить четкое функциональное соответствие между значением х и величиной ожидаемых при принятии решения и потерь.

При наличии априорной неопределенности по-прежнему необходимо оценить ожидаемые потери для каждого возможного решения. Как и при отсутствии априорной неопределенности, эта оценка, естественно, делается по имеющимся данным наблюдения х. Однако из-за недостатка априорных сведений невозможно установить точное функциональное соответствие между х и величиной апостериорного риска и следует как-то модифицировать свой подход к нахождению оценки ожидаемых потерь. В связи с этим роль и значение вновь полученной информации — данных наблюдения повышаются - эти данные выступают не просто в качестве аргумента известной функции апостериорного риска оценивающей ожидаемые потери, но должны быть также использованы для восстановления функционального соответствия между ними и величиной ожидаемых потерь. Процесс восстановления этого соответствия, обеспечивающий реализуемость основного принципа байесова подхода — выбора решения по минимуму ожидаемых потерь, имеет смысл называть адаптацией, а соответствующие правила решений устанавливающие функциональное соответствие между х и решением и, минимизирующим полученную с учетом ограниченности наших знаний оценку ожидаемых потерь, — адаптивными байесовыми правилами решения.

Применение этой терминологии, не очень много добавляющей по существу, но достаточно установившейся, объясняется тем, что нахождение правила решения при наличии априорной неопределенности так или иначе связано с приспособлением найденного при отсутствии априорной неопределенности правила решения (алгоритма обработки информации, управления и т. п.) к неизвестной (в смысле неполноты априорного статистического описания) обстановке, которая характерируется какими-то истинными, но полностью или частично неизвестными функциями потерь, распределениями вероятности и значением апостериорного риска, измеряющим ожидаемые нотери.

Итак, по существу адаптивный байесов подход основан на принципе выбора решения по минимуму ожидаемых потерь и в этом смысле не отличается от обычного байесова подхода, обеспечивающего нахождение абсолютно наилучших правил решения; методически адаптивный байесов подход основан на замене точной меры ожидаемых потерь — апостериорного риска — его состоятельной оценкой по имеющимся данным наблюдения х и последующем применении всех формальных процедур перехода от заданной функции апостериорного риска к оптимальному правилу решения. Состоятельность оценки апостериорного риска позволяет быть уверенным в том, что не будут допущены по крайней мере грубые ошибки при сопоставлении величин ожидаемых потерь для разных решений и выборе наилучшего решения. Применение же формальных процедур нахождения байесова правила решения по величине апостериорного риска дает гарантию, что ничего не ухудшится в дальнейшем и действительно получится наилучшее при данной оценка ожидаемых потерь правило решения. Конечно, для того, чтобы это правило решения было вообще наилучшим в условиях априорной неопределенности, нужно, чтобы и принятая оценка апостериорного риска была наилучшей, а для того, чтобы правило решения было близко

к наилучшему при отсутствии априорной неопределенности, иужно, чтобы оценочное и истинное значения апостериорного риска имели минимумы при одном и том же решении и почти для всех значений х ил» при близких значениях и для всех значений