§ 3.23. Обсуждение

Вопрос о выборе наилучших алгоритмов, затронутый в предыдущих параграфах, связан с решением задачи оптимальности, но эта задача в данном случае имеет свои особенности. Как правило, нас не интересуют промежуточные значения вектора , определяемые алгоритмом, если только они лежат в допустимых пределах. Мы были бы полностью удовлетворены, если бы алгоритм позволял за минимальное число шагов, т. е. за минимальное время определить оптимальный вектор с заданной точностью. Но вряд ли можно что-нибудь сделать с такой мерой качества алгоритмов. По-видимому, алгоритмы, наилучшие по быстродействию, вообще построить нельзя. И это заставляет нас довольствоваться алгоритмами, наилучшими с точки зрения минимума дисперсии на каждом шаге либо с точки зрения минимума некоторых эмпирических функционалов. Если градиент реализации  представляет собой линейную функцию , то наилучшие алгоритмы находятся без труда (см., например, § 3.19). В любом другом случае мы можем определить лишь приближённо наилучшие алгоритмы на основе линейного приближения (см., например, § 3.18). Для получения наилучших алгоритмов полезно использовать результаты теории статистических решений, условных марковских процессов и т. д. Следует, однако, подчеркнуть, что замена исходной нелинейной задачи линейным приближением приводит к тому, что получаемые результаты справедливы лишь при достаточно малых отклонениях . Такие алгоритмы не обладают неизбежной сходимостью. И поэтому, естественно, возникает вопрос, стоит ли заниматься оптимизацией линеаризованного процесса, и если стоит, то в каких случаях.

Но если бы даже можно было находить наилучшие алгоритмы в общем виде, то, как правило, их реализация была бы настолько сложна, что пришлось бы от нее отказываться. Поэтому не стоит преувеличивать роль оптимальных алгоритмов. К подобному выводу давно пришла теория оптимальных систем, в которой оптимальные алгоритмы используются как средство оценки различного рода упрощенных, но зато реализуемых алгоритмов. С этой точки зрения приобретают интерес различные упрощенные оптимальные алгоритмы либо простые алгоритмы, которые многократно используются в интервалах между моментами поступления данных. В последующих главах мы не будем акцентировать внимание на наилучших алгоритмах. Пользуясь результатами, изложенными выше, читатель при необходимости сможет сам определить наилучшие или приближенно наилучшие алгоритмы.