2.3. РАЗЛИЧНЫЕ СТАТИСТИЧЕСКИЕ ПОДХОДЫ

Среди вопросов, изучаемых в математической статистике, имеются следующие:

1) Сжатие информации, представленной большим набором данных, до нескольких числовых значений (редукция данных).

2) Извлечение выборки из большой совокупности с последующими статистическими выводами о свойствах совокупности по выборке. Эта процедура может преследовать следующие цели: а) проверку какого-либо вероятностного суждения, например гипотезы о том, что рассматриваемая совокупность имеет распредоление вероятностей, принадлежащее определенному классу (проверка гипотез); б) нахождение оценки и дисперсии оценки неизвестного параметра функции распределения вероятности для данной совокупности (оценивание параметров распределения).

3) Анализ стохастической связи между двумя характеристиками, например отыскание числовых значений оценок и дисперсий оценок коэффициентов предполагаемой связи между величинами и (оценивание параметров связи).

Задачу оценивания параметров объекта можно рассматривать как исследование параметров распределения или параметров связи. Последнее естественно, когда и у представляют входной и выходной сигналы объекта. Интерпретация оценивания параметров объекта как оценивания параметров распределения связана с использованием метода максимального правдоподобия.

Ожидаемые результаты оценивания могут быть самыми разными в зависимости от характера прикладной задачи и доступной априорной информации. Рассмотрим описание объекта в пространстве состояний:

где входной сигнал, выходной сигнал, помеха, вектор состояния объекта, вектор параметров объекта,

Уравнения модели имеют тот же вид:

где вектор состояния модели, вектор параметров модели. На фиг. 2.2 представлен упрощенный

Фиг. 2.2.

линейный случай. Теперь задачу оценивания параметров можпо сформулировать как задачу минимизации:

(см. скан)

Некоторая функция (функционал) от ум, выходной ошибки, может быть минимизирована, так как выбором технической реализации или программированием модели на ЭВМ ошибка может быть сделана измеримой.

В зависимости от модели и входного сигнала эта ошибка определяет некоторую меру соответствия между векторами параметров и (или) состояний объекта и модели. В некоторых случаях соответствие между входом и выходом важнее соответствия параметров, и в частности, если модель проще, например более низкого порядка, чем объект. Очевидно, что величины и х нельзя непосредственно измерить. Таким образом, можно минимизировать только математические ожидания или .

Фиг. 2.3.

Однако это возможно только тогда, когда имеется какая-то априорная информация о распределениях вероятностей.

Как и во множестве других ситуаций, мы стремимся найти оптимальную или наилучшую процедуру оценивания. Однако определение наилучшей оценки зависит от вида прикладной задачи, требований, предъявляемых к оценке, априорной информации об объекте и помехах. В литературе по математической статистике описан ряд различных процедур оценивания. Эти методы отличаются прежде всего по используемому критерию оптимальности и имеющейся априорной информации. К сожалению, выбор критерия оптимальности более или менее субъективен, а получающиеся алгоритмы существеппо зависят от сделанного выбора. Все эти процедуры оценивания и их взаимосвязь рассматриваются в гл. 5. Здесь приводится лишь краткое предварительное обсуждение. Следует еще раз подчеркнуть, что после первого чтения этой главы У читателя должно создаться лишь самое общее представление о методах оценивания и связанных с ними алгоритмах.

Один из простых подходов может быть иллюстрирован блок-схемой, представленной на фиг. 2.3. Рассматривается случай выборочных измерений функций непрерывного времени. Символами и обозначены векторы

соответствующих выборок, например

Символами и обозначены соответственно векторы параметров объекта и модели:

Отсюда находим

где

Столбцы матрицы состоят из выборочных значепий выходных сигналов блоков Эти блоки выбраны для построения требуемого описания объекта (см. гл. 4).

Теперь можно поставить задачу как отыскание оценки вектора параметров объекта по наблюдениям у. Основываясь на имеющейся априорной информации, можно выделить следующие виды оценок:

Оценивание по методу наименьших квадратов

В этом случае не требуется никакой априорной информации. Критерий ошибки определяется как

где

Здесь I — единичная матрица. Минимизируя критерий ошибки, получаем так называемую систему нормальных

уравнений для оценивания параметров:

Здесь, как и раньше, означает транспонированную матрицу

Марковские оценки или оценивание по обобщенному методу наименьших квадратов

Предположим теперь, что известна ковариационная матрица аддитивного шума

Можно доказать, что при наилучшая линейная оценка получается минимизацией выражения

что приводит к следующему правилу оценивания:

(марковская оценка или оценивание по обобщенному методу наименьших квадратов).

Оценивание методом максимального правдоподобия

Как уже отмечалось, задачу оценивания можно рассматривать как исследование параметров распределения вероятностей. Рассмотрим вектор выхода у. Априори (до измерений) известно, что выборочные значения у являются случайными величинами с совместным распределением вероятностей

зависящим от вектора параметров приложение). Апостериори (после измерений) становятся известными реализации этих случайных величин: По ним определим оценку Функциональная связь между определяется формулой (2.13). Для того чтобы подчеркнуть, что формула (2.13) связывает реализацию выборочных значений с локтором оценок параметров перепишем ее в виде

Эта функция называется функцией правдоподобия. Так как выборочные значения определяются в результате измерений, является функцией только Удобнее рассматривать вследствие монотонности логарифма максимумы достигаются при одном и том же значении Это значение можно найти из уравнения

Решение этого уравнения называется оценкой максимального правдоподобия вектора если действительно зависит от выборочных значений . В этом случае необходимо знать не только ковариационную матрицу помехи, но и вид совместного распределения вероятностей ее выборочных значений.

Оценивание по минимальному среднему риску

В этом случае необходима еще большая априорная информация. Как показано в гл. 5, должны быть заданы плотности распределения вероятностей и

С теоретической и практической точек зрения интересно рассмотреть вопрос о том, какая априорная информация будет использоваться на практике. Вообще говоря, дополнительная априорная информация приводит к улучшению оценки, однако затраты на реализацию могут оказаться чрезмерными. Какие бы методы оценивания ни использовались, они должны опираться на случайные наблюдения, случайность которых связана с наличием помех. Следовательно, любая оценка, являющаяся функцией этих случайных наблюдений, также является случайной величиной.