АППРОКСИМАЦИЯ ФУНКЦИИ СРЕДНЕКВАДРАТИЧНАЯ
— нахождение для заданной функции такой другой функции из некоторого класса, для которой среднеквадратичное отклонение от данной функции минимально. Среднеквадратичным отклонением наз. усреднение с некоторым весом по заданному мн-ву точек квадрата разности заданной и аппроксимирующей ф-ций. Среднеквадратичные приближения, или приближения по методу наименьших квадратов, удобны с практической точки зрения. Очень часто значения приближаемой ф-ции берутся из экспериментов и, следовательно, имеют случайные погрешности, поэтому не целесообразно было бы требовать, чтобы приближаемая и приближающая ф-ции в заданных точках совпадали точно.
Пусть дана ф-ция из некоторого класса Е. Рассмотрим задачу о приближении этой ф-ции ф-циями из некоторого более узкого класса В качестве мер близости ф-ций можно взять величину , которая выражается ф-лой
или
где — некоторая неотрицательная ф-ция, называемая весом. Если ф-цию выбрать так, чтобы величины (1) или (2) принимали наименьшие значения, то приближения наз. соответственно точечным и интегральным среднеквадратичным.
Для упрощения дальнейшего изложения целесообразно использовать абстрактное гильбертово простр. Н (см. Пространство абстрактное в функциональном анализе), в котором задано скалярное произведение. Скалярным произведением двух элементов комплексное число удовлетворяющее условиям: а) комплексные числа); в) при этом только в случае Норму элемента определяют равенством Примерами гильбертовых простр. являются простр. и Простр. — это простр. числовых последовательностей, в котором скалярное произведение элементов определяется по ф-ле
а простр. это простр. интегрируемых с квадратом ф-ций со скалярным произведением
Более общими, чем являются простр. весом, в которых скалярные произведения
определяются соответственно ф-лами
и
Элементы ортогональными, если . В задаче приближения элементов гильбертова простр. важным является понятие линейной зависимости и независимости системы элементов. Элементы линейно независимыми, если из равенства
вытекает, что . В противном случае элементы наз. линейно зависимыми. Выражение линейной комбинацией элементов.
Рассмотрим задачу о наилучшем приближении элемента е. Н линейной комбинацией линейно независимых элементов Эта задача состоит в определении констант из условия минимума величины Задача сводится к нахождению минимума ф-ции переменных. Используя необходимое условие существования экстремума ф-ции многих переменных, т. е. условие
для определения получим систему линейных алгебр, ур-ний (см. Уравнений классификация) порядка:
Т. к. определитель системы (7) есть определитель Грамма, который для системы независимых элементов отличен от нуля, то система (7) имеет единственное решение, т. е. наилучшее приближение существует и определяется однозначно. В случае, когда система ортонормирована, т. е. при , а система (7) упрощается и приобретает вид
В этом случае т. е. наилучшее приближение есть отрезок ряда Фурье элемента по системе коэфф. Фурье. Величина определяется ф-лой
Если ортонормированная система является полной, т. е. такой, что из равенства следует то при . Примером полной ортонормированной системы в простр. является система
В простр. полными ортонормированными системами являются, напр., система тригонометрических ф-ций
на отрезке , система многочленов Лежандра
на отрезке
Рассмотрим более подробно задачу о точечном среднеквадратичном приближении ф-ций. Пусть ф-ция задана на некотором мн-ве точек отрезка Допустим, что ф-ции определенные на линейно независимы на мн-ве X, т. е. из равенств следует, что Задача о наилучшем приближении ф-ции линейной комбинацией сводится к нахождению констант которые минимизируют функционал
где — известные постоянные.
Введем скалярное произведение элементов по ф-ле
Тогда систему (7) можно записать в виде
Рассмотрим частные случаи ф-ций которые чаще всего встречаются на практике. Пусть . Тогда имеем и система (15) для определения имеет вид
В качестве ф-ций часто берут ортогональные на мн-ве равноотстоящих точек (с шагом h) многочлены Чебышева
где . В этом случае константы определяют по ф-ле
Во многих случаях наилучшее приближение целесообразно искать в виде тригонометрического многочлена
Еслир и равноотстоящие точки берут на отрезке то коэфф. определяются по ф-лам
В задаче на и лучшего интегрального среднеквадратичного приближения на отрезке задана некоторая ф-ция и система линейно независимых ф-ций Будем считать, что эти ф-ции принадлежат гильбертову простр. с весом, для которого скалярное произведение , где некоторая неотрицательная ф-ция. Если наилучшее приближение искать в виде И, то для определения получим систему
Как и в случае точечного приближения, рассмотрим некоторые наиболее распространенные классы ф-ций Одним из таких классов является система . В этом случае система (21) имеет вид
где .
Т. к. система полна, то произвольную ф-цию с весом можно приближать алгебр, многочленом сколь угодно точно.
Широкий класс алгебр, многочленов, которыми часто приближают заданные ф-ции, составляют многочлены (многочлены Якоби), которые для отрезка с весовой функцией образуют ортогональную систему и имеют вид
Если имеем многочлены Лежандра. Если , т. е. при имеем многочлены Чебышева рода
а в случае т. е. при многочлены Чебышева рода
Для периодических ф-ций наилучшее приближение естественно искать в виде тригонометрического многочлена (19). При этом коэфф. определяются по ф-лам
Если четная ф-ция, если же нечетная, то . С помощью тригонометрических многочленов заданную ф-цию также можно приблизить с произвольной степенью точности.
Рассмотрим один вычислительный алгоритм среднеквадратичной аппроксимации функции многих переменных известна своими прибл. значениями точках) в виде Оценим также погр. найденного решения. Условие
будем считать верным с абс. погр., не превосходящей . Эта погр. возникает в результате неточности представления условия (27), а также неточности величин Предположим, что вместо у - известны величины где независимы и имеют нормальное распределение с нулевым средним и дисперсией , причем . Веса считаются известными, а неизвестной. На основании наблюдений оценим . Неизвестные коэфф. с будем находить по наименьших квадратов методу (н. к. м.), минимизируя по ф-цию
Исходя из принципа максимума правдоподобия, н. к. м. можно дать вероятностное истолкование. Для этого составляют ф-цию правдоподобия выборки независимых измерений
Отсюда видно, что при произвольном ф-ция Z принимает наибольшее значение только тогда, когда принимает наименьшее значение, т. е. при выборе из условия (28).
Решение задачи (28) сводится к решению нормальной системы линейных алгебр, ур-ний
или в матричной форме
где
При непосредственном решении полученной системы следует иметь в виду, что применение прямых меуодов целесообразно тогда, когда порядок системы сравнительно невысок. Если же нарушаются допустимые ограничения по объему памяти ЭВМ или становится значительной погр. округлений, целесообразно пользоваться итерационными методами. Т. к. системы (30), как правило, плохо обусловлены, вместо них решают систему
где Е — единичная матрица, некоторый параметр. В результате решения получаем прибл. значения искомых коэфф. вместе с доверительными интервалами
накрывающими с заданной вероятностью диагональный элемент обратной матрицы системы (30), а лежит в интервале и у при заданных и находятся по спец. табл.).
Смешанная статистико-детерминированная оценка неустранимой погр. А. ф. с. имеет вид:
Для вычисления погр. округлений необходимо фиксировать конкретный метод решения системы (30). Так, напр., для относительной погр. округлений решения найденного методом квадратного корня, исследованы мажорантные
и вероятностные
оценки, соответственно для вычислений в режиме с фиксированной и плавающей запятой (здесь — разрядность данной ЭВМ, знак М означает матем. ожидание, знак — евклидову норму).
Лит.: Линник Ю. В. Метод наименьших квадратов и основы математико-статистической теории обработки наблюдений. М., 1962 [библиогр. с. 341— 343]; Березин И. С., Жидко в Н. П. Методы вычислений, т. 1. М., 1966; Воеводин В. В. Ошибки округления и устойчивость в прямых методах линейной алгебры. М., 1969 [библиогр. с. 148—153]; Демидович Б. П., Марон И. А., Шувалова Э. 3. Численные методы анализа. М., 1967.
Н. С. Курпель, А. Ю. Лучка, В. С Остапчук.