5.5.3. Аппроксимация последовательностей сообщений источника с помощью e-сети на n-мерной сфере.

Предположим, что возможно выбрать подмножество, состоящее из -мерных векторов, такое, что все векторы, лежащие на -мерной сфере можно аппроксимировать со среднеквадратической ошибкой Другими словами, для каждого в этом подмножестве найдется вектор и такой, что

Описанное подмножество называется -сетью, аппроксимирующей сферу Ниже мы покажем, что -сеть, аппроксимирующая сферу дополненная нулевым вектором, может служить хорошим аппроксимирующим множеством для сообщений непрерывного источника без памяти, порождающего случайные величины с нулевым средним и дисперсией . В следующем подпараграфе при доказательстве прямой теоремы мы покажем, что -сеть, содержащая наименьшее число элементов, получается выбором точек на -мерной сфере , где положительное число, которое может быть выбрано сколь угодно малым.

Лемма 5.5.2. Пусть — произвольное положительное число и такое подмножество векторов, что для любого вектора где мношство, определенное в лемме 5.5.1, найдется вектор для которого

Пусть -нулевой вектор и Тогда существует отображение множества всех -мерных векторов,

где X — числовая ось, на множество обладающее тем свойством, что при достаточно больших

где и указанное отображение, - система независимых одинаково распределенных с. в., имеющих нулевое среднее и дисперсию

Доказательство. Обозначим через множество векторов для которых выполняется неравенство (5.5.4), Другими словами, сферическая область, заключенная между двумя -мерными сферами вектор из такой вектор из что

Пусть у — вектор из множества для которого

Наконец, пусть и вектор из для которого выполняется неравенство

Рассмотрим отображение множества на множество задаваемое следующей цепочкой последовательных отображений:

Будем, кроме того, считать, что для каждого вектора х, не принадлежащего множеству Тем самым определено отображение множества на множество

Оценим теперь ошибку такого отображения. Для всякого вектора имеем

где зависит от , и Обозначим эту зависимость через

и заметим, при достаточно больших влияние на исчезает. Выбирая параметры и подходящим образом, можно получить любое желаемое значение параметра . Далее, для всякого вектора имеем

Ошибка является случайной величиной на ансамбле всех последовательностей сообщений источника, который порождает независимые с. в. имеющие одинаковые распределения вероятностей. Оценим среднюю ошибку

В последнем соотношении область интегрирования представлена как соединение двух частей дополнения первой части до Воспользуемся тем, что для всех векторов из выполняется неравенство (5.5.23). Тогда получим, что

где использовано то, что вероятность всякого события не превышает единицу, и обозначено

Из принципа «затвердевания» сферы следует, что для любого найдется такое, что

для всех Последнее неравенство позволяет оценить величину . Заметим, что для всех векторов имеет место неравенство

Следовательно,

откуда следует, что для всех

Подставим теперь последнее неравенство в (5.5.27). В результате получим

где

причем неравенство (5.5.33) имеет место при произвольных и при достаточно больших значениях Из неравенства (5.5.23) и соотношений (5.5.24) и (5.5.34) следует, что при фиксированном сколь угодно малом положительном 60 и при достаточно больших можно подобрать так, чтобы Тогда средняя ошибка будет удовлетворять неравенству (5.5.19). Лемма доказана.

В лемме 5.5.2 утверждается, что при достаточно большом всякое конечное множество которое аппроксимирует множество с ошибкой (это множество с учетом леммы 5.5.1 является -сетью, аппроксимирующей сферу будучи дополнено нулевым вектором, аппроксимирует ансамбль сообщений на выходе непрерывного стационарного источника без памяти со средней ошибкой Величина 60 может быть взята сколь угодно малой за счет выбора достаточно большого Множество аппроксимирует последовательности сообщений источника почти столь же точно, как множество аппроксимирует множество векторов, лежащих на сфере Средняя ошибка аппроксимации в первом случае близка к ошибке аппроксимации во втором, хотя источник в принципе может порождать такие последовательности сообщений, которые сильно отличаются от векторов указанной сферы.