3.2. Приближение полиномами по методу наименьших квадратов

Допустим, что имеются М точек массива данных и желательно аппроксимировать эти данные по некоторому критерию полиномом степени N, где (это означает, что точек данных имеется больше, чем параметров у полинома, рис. 3.2.1). В общем случае нельзя надеяться найти коэффициенты так, чтобы полином был подогнан точио по всем точкам данных (даже пренебрегая округлением в машине). Ошибки приближения полинома называются разностями и они, как правило, не будут все равны нулю. Принцип наименьших квадратов устанавливает, что из всех полиномов степени N следует выбрать тот, для которого сумма квадратов разностей будет наименьшей. Этот принцип, конечно, является условным, и его

Рис. 3.2.1. Приближение данных по методу наименьших квадратов

не следует принимать как абсолютную истину.

В качестве примера рассмотрим набор из пяти равноотстоящих точек данных.

Чтобы облегчить подбор формулы, зафиксируем систему координат и выберем точки для при с соответствующими произвольными значениями хт. Если мы будем осуществлять приближение к этим данным по методу наименьших квадратов с помощью прямой линии то необходимо минимизировать

Переменными в этой задаче являются коэффициенты А и В прямой линии. Чтобы найти минимум, необходимо, естественно, продифференцировать это выражение по А и В, а затем результирующие выражения приравнять нулю. Это дает два следующих выражения (поскольку

Полученные уравнения называются нормальными, по-видимому. из-за того, что они всегда появляются при приближении полиномами по методу наименьших квадратов. Перед тем как решать эти уравнения для А и В, необходимо сделать ряд замечаний. В общем случае сглаживания в качестве сглаженного значения х принимают среднюю точку линии вместо начальной точки данных . В этом случае необходимо найти только значение А, которое из первого нормального уравнения равно 1/5 суммы пяти значений данных, т. е. сглаженное значение равно среднему.

Выше прямая линий приближалась к одиночному набору из пяти точек, хотя обычно при сглаживании потока данных прямая линия приближается в каждом (перекрывающемся) наборе из пяти соседних точек и сглаженные значения х для этих наборов берутся как значения в средней точке соответствующей пятерки. Когда сглаживание пятерками осуществляется в такой движущейся системе координат, имеем формулу

где — сглаженное значение при Пять коэффициентов этого фильтра имеют значения каждый 1/5. Коэффициент усиления шума (разд. 1.7) также равен 1/5. Отметим, что с помощью этой формулы невозможно сгладить по два значения в начале и в конце потока заданных данных.

Как выглядит эта формула с частотной точки зрения? Предположим, что входная функция представляет свбой комплексную синусоиду Поскольку формула линейна по отношению к данным, то (см. разд. 2.5) такая же функция будет всегда на выходе за исключением того, что она умножается на свое собственное значение, которое, начиная с этого момента, будем обозначать как Собственное значение зависит от а не от (в данном случае от ). Подставив комплексную экспоненту в формулу сглаживания пятерками, получим

Отметим, что отрицательные и положительные частоты имеют одинаковые коэффициенты и, следовательно, попарно могут быть заменены соответствующими косинусными функциями

Функция которая является собственным значением формулы, называется передаточной функцией, так как входная частота передается на выход простым умножением на Эта характеристика приведена среди других на рис. 3.2.2 и обозначена как -точечная;

она будет обсуждаться в следующих разделах. На рисунке использована в качестве независимой переменной частота

Другое представление передаточной функции основано на том факте, что в комплексной экспоненциальной форме полученное выражение — это геометрическая прогрессия с

Передаточная функция является, очевидно, периодической функцией от . Однако из-за исходной дискретизации с единичными интервалами, она имеет смысл только на интервале длиной который обычно берется в пределах от до

Рис. 3.2.2. Сглаживание прямой линией по методу наименьших квадратов

Продлить передаточную функцию за пределы этого диапазона — значит смешать частоты, которые перешли при дискретизации из-за наложения в основной интервал, с теми, которые до дискретизации лежали в стороне. Поэтому мы будем изображать самое большее один период передаточной функции. Частота среза, на которой начинает наблюдаться наложение из-за дискретизации, называется частотой свертывания или частотой Найквиста.

Для удобства на графиках указывается циклическая частота , а не угловая частота Величины связаны между собой формулами

Таким образом, сожалению, эту последнюю функцию часто записывают как что является источником ошибок. Чтобы избежать их, будем записывать

Это та же самая путаница, которая возникает, например, с синусоидальной функцией, когда в одном и том же рассмотрении одновременно применяют и радианы, и градусы. Рис. 3.2.2 иллюстрирует, что происходит на любой отдельной частоте входная амплитуда просто умножается на собственное значение показанное на рисунке. Наименьшая частота электротехнических применениях она соответствует постоянному току) кередается через сглаживающий фильтр с неизменной амплитудой. Все другие частоты претерпевают некоторое ослабление (уменьшение). Сглаживание пятерками имеет две частоты: и 4/10, на которых амплитуда на выходе равна пулю, независимо от амплитуды соответствующей входной частоты.

Если приближение прямой линией осуществляется не в 5, а в точках и мы поступим так же, как поступали с 5 точками, то придем к формуле сглаживания по точкам. Соответствующая передаточная функция дает собственное значение для частоты

Альтернативное представление будет иметь вид

Из этой формулы видно, что чем больше слагаемых используется в тем более быстрыми становятся колебания передаточной функции и тем больше огибающая колебаний прижимается к оси частот. На рис. 3.2.2 показаны графики для нескольких первых вариантов, Заметим, что значение в знаменателе изменяется от 0 до 1 при изменении от 0 до изменяется от 0 до

Эти формулы сглаживания точно те же, что и в методе скользящего среднего в статистике и поэтому передаточная функция показывает, что происходит, когда усредняются данные с частотой со. Заметим, что эти передаточные функции периодические и симметричные относительно Периодичность относительно отражает факт наложения, который, как было установлено ранее, возникает при дискретизации с равноотстоящими отсчетами. Периодичность относительно вытекает из симметрии коэффициентов в формуле.

Отметим, что поскольку используются собственные функции, операция сглаживания не вызывает взаимодействия различных составляющих данных. Так, если входная функция есть сумма М комплексных синусоид

то на выходе будем иметь

Упражнения

(см. скан)