150. Случай смешанного спектра.

Как мы уже упоминали, говорят, что самосопряженный оператор имеет смешанный спектр, если имеются собственные элементы оператора, но ортогональная нормированная система собственных элементов

не замкнута в Н. Пусть, как и выше, подпространства собственных элементов, соответствующих собственному значению Как мы видели в [148], оператор имеет в инвариантном подпространстве

чисто точечный спектр с собственными значениями и подпространствами собственных элементов Элементы (276) образуют при этом замкнутую систему в состоящую из собственных элементов А.

В дополнительном подпространстве оператор А имеет лишь чисто непрерывный спектр. Принимая во внимание формулы из [149] и из [146], получаем следующие общие формулы, в которых суммы происходят от точечного спектра в и интегралы от непрерывного спектра в

где — коэффициенты Фурье элементов у и z относительно системы (276) и — собственные значения А, соответствующие собственным элементам

Пользуясь указанным выше разбиением оператора на оператор с чисто точечным спектром в Н и оператор с непрерывным спектром в мы можем произвести классификацию точек спектра.

Определение. Говорят, что принадлежит точечному спектру, если есть собственное значение А. Говорят, что точка принадлежит предельному спектру, если есть предельная точка для точечного спектра, т. е. в любой ее - окрестности находятся собственные значения, отличные от Наконец, говорят, что принадлежит непрерывному спектру, если входит в спектр оператора индуцированного оператором А в т. е. если в любом интервале, содержащем внутри себя, спектральная функция оператора А непостоянна.

Всякая точка спектра оператора принадлежит по крайней мере одной из указанных трех категорий, но может случиться, например, что точка принадлежит одновременно всем трем категориям. Иногда вводят еще понятие точки сгущения спектра, а именно точка называется точкой сгущения спектра, если она есть или собственное значение бесконечного ранга, или элемент предельного спектра, или элемент непрерывного спектра.