Глава 7. МЕТОДЫ ПАРАМЕТРИЧЕСКОГО ОЦЕНИВАНИЯ

Предположим, что выбрано параметрическое множество возможных моделей с вектором параметров в, задающее структуру модели (см. раздел 4.5). Тогда поиск наилучшей модели в этом множестве представляет собой задачу определения, или оценивания 0. Существует много возможных способов организации такого поиска и также много различных взглядов на то, что необходимо искать. В настоящей главе внимание концентрируется на последнем аспекте: как следует попимать слова «хорошая модель»? Вычислительным вопросам (т.е. как организовать текущий поиск) будут посвящены гл. 10 и 11. Оценка свойств моделей при различных условиях и использовании различных методов производится в гл. 8 и 9. В гл. 15 снова рассматриваются методы оценивания и производятся выводы по рекомендуемым процедурам, ориентированные в основном на пользователя.

7.1. Основные принципы формирования методов параметрического оценивания

Методы параметрического оценивания. Рассмотрим теперь ситуацию, когда выбрана определенная структура модели с конкретными моделями определяемыми вектором параметров в Следовательно, так определенное множество моделей записывается в виде

Напомним, что каждая модель представляет собой способ предсказания будущих значений выходной переменной. Как отмечалось в гл. 4 предсказатель может быть линейным фильтром

Он соответствует предсказанию на один шаг вперед при описании исходной системы в виде

когда

но к нему также можно прийти другими рассуждениями.

Предсказатель может также представлять собой нелинейный фильтр, как обсуждалось в гл. 5, и в этом случае он записывается в виде общей функции прошлых даных

Модель может также учитывать (модельные) предположения о характере соответствующих ошибок предсказания, как, например, их дисперсии или их распределение вероятностей .

Рассматриваемая ситуация состоит также в том, что мы имеем или будем иметь группу данных системы

Необходимо теперь ответить на вопрос, как использовать содержащуюся в информацию, чтобы выбрать соответствующее значение вектора параметров и, следовательно, соответствующий элемент множества. Говоря

формально, необходимо определить отображение множества данных на множество

Такое отображение является методом параметрического оценивания.

Оценивание возможных моделей. Рассмотрим задачу определения критерия, с помощью которого можно было бы оценивать возможность различных моделей описывать данные наблюдений. Выше подчеркивалось, что сущность модели заключается в ее способности предсказания, и судить о ее характеристиках следует также в этом отношении. Так, пусть ошибка предсказания для определенной модели задается равенством

Если набор данных известен, эти ошибки можно вычислить для

Будем называть хорошей ту модель, которая хорошо предсказывает, т. е. порождает малые ошибки предсказания для имеющихся данных наблюдений. Заметим, что имеется значительная свобода в выборе различных функций предсказания, а это обусловливает соответствующую гибкость в определении хороших моделей в терминах качества предсказания. Таким образом, основной принцип параметрического оценивания следующий:

На основе можно вычислить ошибку предсказания , используя (7.8). В момент времени выбираем так, чтобы ошибки предсказания были по возможности малыми.

Вопрос заключается в том, как определить, что означает малость ошибки предсказания. В этой главе будут описаны два таких подхода. Один состоит в формировании скалярно-значной нормы, или критерия, оценивающего размер Этот подход развивается в разделах 7.2-7.4. Другой подход заключается в требовании некоррелированности с имеющейся последовательностью данных. Он соответствует требованию того, чтобы определенные проекции ошибок были нулевыми, и далее обсуждается в разделах 7.5 и 7.6.