ПРИЛОЖЕНИЕ 3А. ПОЛЕЗНЫЕ НЕРАВЕНСТВА И ДОКАЗАТЕЛЬСТВА ЛЕММЫ 3.2.1 И ТЕОРЕМЫ 3.3.2

3А.1. Полезные неравенства (по Галлагеру [1968] и Джелинеку [1968])

В этом приложении мы везде пользуемся действительными положительными параметрами Обозначив через множество индексов, введем действительные неотрицательные числа, занумерованные индексами из I:

и вероятностные распределения, занумерованные индексами из

где

Сформулируем и докажем 11 фундаментальных и полезных неравенств.

а) причем равенство достигается тогда и только тогда, когда

Доказательство. Производные имеют вид

Поскольку единственный максимум функции расположен в точке Следовательно, переходит в равенство тогда и только тогда, когда .

б) , причем равенство достигается тогда и только тогда, когда для всех таких, что

Доказательство. Из имеем

причем равенство достигается тогда и только тогда, когда А

в) причем равенство достигается тогда и только тогда, когда при всех

Доказательство. Из п. б) для каждого следует неравенство

причем равенство достигается тогда и только тогда, когда Отсюда, подставив вместо а, и и просуммировав по получим

причем равенство достигается тогда и только тогда, когда для всех .

г) (неравенство Гельдера); равенство достигается тогда и только тогда, когда для некоторого при всех

Доказательство. Для каждого положим в

Для случая имеем

с интегральным аналогом

равенство достигается тогда и только тогда, когда для некоторого с

В более общем случае, если любые неотрицательные действительные числа, пронумерованные индексами из имеем

Доказательство. Положим воспользуемся

причем равенство достигается тогда и только тогда, когда для некоторого с и всех

Доказательство. Верхняя граница следует из п. д) при для всех Нижняя граница следует из п. д) при для всех .

ж) причем равенство достигается тогда и только тогда, когда только одно из а отлично от нуля.

Доказательство. Пусть

Поскольку получим

которое переходит в равенство тогда и только тогда, когда или 1, следовательно,

причем равенство достигается тогда и только тогда, когда только одно из а отлично от нуля. Поэтому

и

причем равенство достигается тогда и только тогда, когда для некоторого с и всех

Доказательство. Положив , воспользуемся

которое переходит в равенство тогда и только тогда, когда для некоторого с при всех

Доказательство. Положив

воспользуемся

к) Пусть набор неотрицательных чисел при и Тогда

Доказательство. Заметив, что

из получим

Разделив обе части неравенства на второй член в правой части, получим

Второе из доказываемых неравенств получается из уже приведенного подстановкой

Пусть набор неотрицательных чисел для Тогда

(вариант неравенства Минковского).

Доказательство. Положив в получим первое неравенство, а положив второе.

3А.2. Доказательство леммы 3.2.1

Имеем

Из неравенства п. з) при получим

которое переходит в равенство тогда и только тогда, когда при некотором для всех Следовательно,

Причем равенство достигается тогда и только тогда, когда для каждого не зависит от при тех х, для которых Но это невозможно, поскольку мы предположили, что [см. свойство 1, определяемое неравенством (1.2.9)]. Поэтому строго возрастает при следовательно,

Кроме того,

причем равенство достигается тогда и только тогда, когда Это неравенство переходит в противоположное при

Выбирая получим из неравенства п. и) при

Суммирование по всем дает

Применив к правой части неравенство получим

Прологарифмировав обе части последнего неравенства по натуральному основанию и умножив их на минус единицу, придем к желаемому результату

Это неравенство доказывает, что выпукла по при следовательно,

В неравенствах и равенство достигается тогда и только тогда, когда достигается равенство в неравенствах пп. и), г), использованных при выводе Из неравенства следует неравенство равенство в каждом достигается при фиксированном у тогда и только тогда, когда при некотором

Таким образом, равенство в выполняется тогда и только тогда, когда справедливо при всех у. В неравенстве использованном при выводе равенство достигается тогда и только тогда, когда некотором с

Учитывая равенство можно опустить множитель в и получить

Отсюда следует, что для некоторой константы а

Получаем тогда для всех таких, что

или, как следствие из определения (3.2.2),

3А.3. Доказательство теоремы 3.3.2

Имеем

Положив из неравенства получим

причем равенство достигается тогда и только тогда, когда при некотором с

для всех х, таких, что Следовательно, возрастающая функция при

Исследуем условия равенства, заданные Для любого х, такого, что имеем и

Далее, неравенство утверждает, что

которое переходит в равенство тогда и только тогда, когда Следовательно, в равенство достигается тогда и только тогда, когда для всех у и всех таких, что Это невозможно, поскольку мы предположили, что Поэтому строго возрастает по при

и

Теперь из неравенства Любого получим

причем условие равенства достигается тогда и только тогда, когда при некотором с

выполняется для всех ненулевых значений суммы

Из неравенства вновь получаем, что эта сумма равна 1 тогда и только тогда, когда при всех у. Указанная сумма равна О тогда и только тогда, когда при всех у. Таким образом, из следует

или

Равенство достигается тогда и только тогда, когда для каждой пары входных последовательностей для которых либо для всех либо для всех у.