представляют собой отклонения этой величины от результатов отдельных наблюдений. Эти отклонения могут быть частью положительными, частью отрицательными, и совершенно естественно стремиться к такому оптимальному выбору и, при котором «тотальное» (в каком-то смысле) отклонение было бы возможно меньше. Следуя Гауссу, берут обыкновенно в качестве «измерителей неточности» не сами отклонения, а их квадраты 
и затем выбирают оптимальное значение и с таким расчетом, чтобы минимализировать «тотальное» отклонение, под каковым понимают сумму квадратов отдельных отклонений
Определенное таким образом оптимальное значение и есть не что иное, как среднее арифметическое то: в этом заключается исходное положение знаменитого, созданного Гауссом, «метода наименьших квадратов». Мы постараемся возможно проще доказать подчеркнутое выше утверждение. Если мы напишем
то получим
Сложим, далее, все такие равенства, полагая 
Последний член при этом дает
а это выражение по определению то равно нулю. Следовательно, мы получаем
Отсюда уже ясно, что
причем знак равенства возможен только при 
Как раз это самое мы и собирались доказать.
Общий метод наименьших квадратов принимает руководящий принцип — минимализировать сумму квадратов — во всех более сложных случаях, когда нужно как-то согласовать между собой ряд слегка противоречащих друг другу данных наблюдения. Так, представим себе, что измерены координаты 
для 
точек, которые, теоретически говоря, должны лежать на прямой линии, и предположим, что полученные таким эмпирическим путем точки оказываются расположенными по прямой не вполне точно. Как выбрать прямую, которая наилучшим образом была бы «приложена» или «подогнана» к этим точкам? Руководящий принцип приводит к следующему приему (который — необходимо признать — мог бы быть заменен и другими процедурами, основанными на иных рассуждениях). Пусть 
есть уравнение искомой прямой, так что наша проблема заключается в определении коэффициентов а и 
Измеренное по направлению оси у расстояние прямой от точки 
равно 
причем имеет положительный или отрицательный знак, смотря по тому, расположена ли точка выше или ниже прямой. Тогда квадрат этого расстояния равен 
и согласно основному принципу метода наименьших квадратов нам достаточно подобрать а и b таким образом, чтобы выражение
достигало наименьшего возможного значения. Мы приходим, таким образом, к минимальной проблеме с двумя переменными величинами а и 
Хотя решение этой проблемы с исследованием всех подробностей и не представляет особенной трудности, мы все же воздержимся здесь от его рассмотрения.
чисел 
(которые здесь нет необходимости считать обязательно положительными) обладает замечательным минимальным свойством. Пусть и — числовое значение некоторой неизвестной величины, которое мы хотим определить насколько возможно точнее с помощью какого-то измерительного инструмента. Пусть произведено для этой цели 
измерений, которые дали результаты 
слегка различающиеся между собой, что обусловливается неизбежными и зависящими от разных причин измерительными ошибками. Возникает вопрос: какое же значение следует приписать величине и в качестве заслуживающего наибольшего доверия? Принято в качестве «истинного» или «оптимального» значения выбирать среднее арифметическое
которое До некоторой степени оправдывает ее выбор. Пусть и — какое угодно числовое значение измеряемой величины. Тогда разности 
