11.1.1. ЭЛЕМЕНТЫ ЛИНЕЙНОЙ АЛГЕБРЫ

Понятия линейной алгебры [см. I, гл. 5] имеют естественное применение в теории линейных статистических моделей. Они служат «языком» как для описания линейной модели, так и для теоретического описания численных задач оценивания. Важнейшими понятиями являются векторное сложение и умножение на скаляр, векторное пространство и подпространство, преобразования и проекции, внутреннее (скалярное) произведение и нормы. Дополнительные понятия, которые необходимы статистикам, не очень знакомым с линейной алгеброй, — индикаторные векторы и поточечное умножение для описания факторных моделей [см. раздел 9.8].

Векторы. Точка на линии может быть представлена числом, т. е. . Точка на плоскости может быть определена упорядоченной парой чисел Точка в трехмерном пространстве может быть представлена как тройка чисел Другими словами, определяет точку в -мерном пространстве. Графическое же представление возможно только для

Определение 11.1.1. Вектор в n-мерном пространстве. Вектор в n-мерном пространстве есть упорядоченная последовательность действительных чисел, которые называются координатами вектора х. (Векторы записываются столбцами, но из соображений полиграфического удобства мы иногда представляем их в виде строк.)

Предположим, что возраст, рост, вес и коэффициент интеллектуального развития ребенка — 7 лет, 1,10 м, 35 кг и соответственно. Эти характеристики могут быть представлены как точка (7, 1,10, 35, 122) в четырехмерном пространстве. Конструкции такого типа, однако, в линейных моделях используются не часто. Более распространенной является следующая конструкция. Предположим, возраст четверых детей и 5 лет. Эти данные могут быть представлены как точка с координатами (7, 5, 6, 5) в четырехмерном пространстве.

Векторное сложение и умножение на скаляр осуществляются непосредственно.

Сложение. Пусть

Тогда

Умножение на скаляр. Пусть есть действительное число. Тогда вектор задается в виде

Приведенные ниже диаграммы иллюстрируют эти операции.

Векторное пространство. Векторы в -мерном пространстве удовлетворяют некоторым правилам, основанным на операциях сложения и умножения на скаляр. Любое множество векторов, удовлетворяющее

этим правилам, образует векторное пространство. Если х, у и z — произвольные векторы из векторного пространства V, а скаляры, то

Скалярное произведение. Понятие скалярного произведения является алгебраическим эквивалентом геометрических понятий длины и угла. Обычное скалярное произведение векторов х и у в -мерном пространстве определяется как

Итак, если , то Укажем важное свойство скалярного произведения:

для любых векторов х, у, z в -мерном пространстве.

Норма. Норма вектора соответствует геометрическому понятию длины. Если — вектор в -мерном пространстве, то норма х есть неотрицательная величина, определяемая

Так как норма — всегда действительное число.

Например, пусть Тогда Аналогично если то .

Единичный (нормированный) вектор. Вектор х называется единичным, если его норма Если х — произвольный вектор, отличный от нулевого то — единичный вектор.

Замечание. Несколько опережая изложение, укажем, что корреляционные и регрессионные коэффициенты весьма просто выражаются в терминах скалярных произведений. Пусть х и у — два вектора наблюдений (измеренных относительно среднего). Тогда выборочный коэффициент корреляции для переменных х и у есть

а простой коэффициент регрессии у на X есть

Индикаторные векторы. Индикаторным вектором называется вектор, координаты которого принимают только значения 0 или 1. Например, в шестимерном пространстве индикаторными будут векторы (1, 1,0, 1, 0, 0) и (0, 0, 0, 1, 1, 0). Нулевой вектор и вектор из единиц являются индикаторными векторами. Важное подмножество составляют нормированные индикаторные векторы. В шестимерном пространстве ими будут

Здесь Очень важно, что любой вектор х может быть записан в виде линейной комбинации векторов е. Так,

Покоординатное (поточечное) умножение. Пусть х и у — векторы в -мерном пространстве. Определим вектор как

Координаты вектора получаются перемножением соответствующих координат векторов х и у. Ясно, что

и что . Если — индикаторные векторы, то вектор также будет индикаторным. Последнее свойство является основной причиной для введения покоординатного умножения.

Замечание. Покоординатное умножение не следует путать с точечным умножением, которое используется в аналитической декартовой геометрии, кинематике и т. Последнее совпадает с нашим скалярным произведением.