Упражнения
1. Рабочая функция системы с одним весовым коэффициентом имеет параметры . Запишите выражение для этой рабочей функции.
2. Каковы значения весовых коэффициентов первых пяти итераций при использовании простого алгоритма градиентного поиска, рассмотренного в начале гл. 4, если , а параметр сходимости ? Другие данные возьмите из условия упражнения 1.
3. Выполните упражнения 2 для .
4. При каких значениях параметра сходимости обучающая кривая будет соответствовать режиму с перерегулированием, если рабочая функция
5. Запишите выражение и начертите график для рабочей функции, заданной в упражнении 4, если начальное значение весового коэффициента , а параметр сходимости
6. Выведите формулу алгоритма Ньютона в дискретной форме, аналогичную (4.26), используя вместо производных разности.
7. Выведите формулу обучающей кривой для алгоритма Ньютона, примененного к рабочей функции на рис. 4.5.
8. Для примера на рис. 4.5 найдите с точностью до четвертого знака после занятой значения весовых коэффициентов для первых семи итераций, если .
9. Для примера на рис. 4.5 найдите с точностью до четвертого знака после запятой весовой коэффициент еслн . Объясните полученные результаты и покажите, почему метод Ньютона может быть не применим для неквадратичных рабочих функций.
10. Для рабочей функции, сечения которой изображены на рис. 3.2, запишите формулу алгоритма в виде уравнения (4.31). Докажите, что для любого начального значения весовых коэффициентов алгоритм приводит к оптимальному решению за один шаг.
И. Для примера на рис. 3.2 найдите векторы весовых коэффициентов первых пяти итераций при использовании модифицированного алгоритма Ньютона, описываемого уравнением (4.32), если начальный вектор , а параметр сходимости Найдите .
12. Предположим, что обратная матрица и вектор градиента V заданы в следующем виде:
Запишите в явном виде формулу обучающей кривой для методов Ньютона и наискорейшего спуска.
13. Предположим, что заданы следующие матрицы:
Используя уравнения (4.34) и (4.38), запишите в явном виде формулу, описывающую обучающую кривую для методов Ньютона и наискорейшего спуска. Пользуясь полученными результатами, объясните, в чем состоит смысл взаимосвязи компонентов векторов весовых коэффициентов.
14. Для примера на рис. 3.2 найдите векторы весовых коэффициентов первых пяти итераций для алгоритма нанскореншего спуска, если начальный вектор . Найдите
15. Функция ошибки задана выражением (3.44). Постройте обучающую кривую для метода Ньютона, если начальные весовые коэффициенты равны нулю, а параметр
16. Запишите разностные уравнения, описывающие обучающие кривые для методов Ньютона и наискорейшего спуска, в обозначениях исходной системы координат.
17. Функция ошибки задана выражением (3.44). Постройте обучающую кривую для метода наискорейшего спуска, если начальные весовые коэффициента равны нулю, а
18. Выведите из уравнения (4.58) уравнение (4.59) путем вычисления произведения матрицы.
19. Объисните, почему в (4.32) параметр [X является безразмерной величиной, а в (4.36) имеет размерность, обратную мощности сигнала.
Ответы к некоторым упражнениям
1.
2.
3.
4.
5.
7.
8.
9.