Макеты страниц
§ 2.4. Определение оптимальной функции потерьКак было установлено в § 1.4, оптимальное решение с минимизирует средние потери Назовем оптимальной функцией потерь
Таблица 2.1 (см. скан) Фишеровская информация Оптимальная функция потерь, таким образом, равна
где, как было показано ранее
причем
и
Предполагая, что для допустимых функций потерь
запишем
Найдем оптимальную функцию потерь
Условие экстремума можно представить в виде
Поскольку
то, дифференцируя
Отсюда следует, что оптимальная функция потерь удовлетворяет условию
Это условие должно быть выполнено при любых вариациях
Умножая обе части (2.4.13) на
Но равенство таких нормированных функций может иметь место лишь тогда, когда сами функции пропорциональны, т. е.
где
и, значит,
т. е. производная оптимальной функции потерь пропорциональна отношению производной плотности распределения помех к самой плотности. Интегрируя обе части (2.4.16), получим, полагая затем
Из очевидных геометрических соображений следует, что постоянная Таким образом, оптимальная функция потерь не единственна, а зависит от постоянных Для задач идентификации, т. е. задач, связанных с нахождением оценок оптимального решения, конкретные значения постоянных
Пользуясь терминологией § 2.3, можно сказать, что оптимальная функция потерь равна логарифмической функции правдоподобия с обратным знаком, т. е. логарифмической функции неправдоподобия, а ее производная по аргументу (2.4.17)
равна информанту с обратным знаком, или негинформанту. Примеры оптимальных функций потерь
для типовых плотностей распределения помехи
|
1 |
Оглавление
|