ЗАДАЧИ

7.1. Покажите, что следующие два отношения являются необходимыми и достаточными условиями для ансамбля входных вероятностей , чтобы максимизировать  и, таким образом, достичь пропускной способности ДКБП:

где  - пропускная способность канала и

.

7.2. Рис. Р.7.2 иллюстрирует -ичный симметричный ДКБП с переходными вероятностями, когда , для , и , когда .

a) Покажите, что этот канал удовлетворяет условиям, данным в задаче 7.1, когда .

b) Определите и постройте зависимость пропускной способности канала от .

Рис. Р.7.2

7.3. Определите пропускные способности каналов, показанных на рис. Р.7.3.

7.4. Рассмотрите два канала с переходными вероятностями, показанными на рис. Р.7.4. Определите, достигается ли максимизация скорости передачи по каналу при равной вероятности входных символов.

7.5. Телефонный канал имеет полосу частот  и отношение мощностей сигнала и шума 400 (26 дБ). Предположим, что мы характеризуем канал, как частотно-ограниченный канал с АБГШ с .

Рис. Р.7.3

Рис. Р.7.4

a) Определите пропускную способность канала в бит/с.

b) Достаточно ли пропускная способность канала для обеспечения передачи речевого сигнала, который стробируется и кодируется посредством логарифмической ИКМ?

c) Обычно канальные искажения, отличные от аддитивного шума, ограничивают скорость передачи по телефонному каналу меньше, чем пропускная способность эквивалентного частотно-ограниченного канала с АБГШ, рассмотренном в п. (а). Предположим, что на практике достигнута скорость передачи  без канального кодирования.

Какие из методов кодирования речевого источника, описанные в разделе 3.5, обеспечат достаточное сжатие, чтобы удовлетворить частотным ограничениям телефонного канала?

7.6. Рассмотрите дискретный канал без памяти (ДКБП) с двоичным входом и четверичным выходом, показанный на рис. Р.7.6.

Рис. Р.7.6

a) определите пропускную способность этого канала;

b) покажите, что этот канал эквивалентен ДСК.

7.7. Определите пропускную способность канала, показанного на рис. 7.7.

Рис. Р.7.7

7.8. Рассмотрите ДСК с переходной вероятностью ошибки . Допустил, что  - это число бит в кодовых словах, которые представляются одним из  возможных уровней на выходе квантователя. Определите:

a) вероятность того, что кодовое слово, переданное по ДСК, принимается без ошибок;

b) вероятность иметь ошибки хотя бы в одном бите (символе?) кодового слова;

c) вероятность иметь  или меньше ошибок в кодовом слове;

d) вычислите вероятность (a), (b) и (c) для ,  и .

7.9. Покажите, что для ДСК средняя взаимная информация между последовательностью, канальных входов и соответствующих канальных выходов удовлетворяют условию

с равенством тогда и только тогда, когда символы в последовательности независимы.

7.10. Рис. Р.7.10 иллюстрирует двоичный канал со стиранием с переходными вероятностями и. Вероятности входных символов равны  и .

a) определите среднюю взаимную информацию  в битах;

b) определите величину , которая максимизирует , т.е. обеспечивает пропускную способность канала в бит/символ и постройте  как функцию от  для оптимального значения ;

c) Для величины , найденной в (b), определите взаимную информацию.

Рис.Р.7.10

7.11. Рассмотрите канал с двоичным входом и троичным выходом с переходными вероятностями, показанными на рис. 7.11, где  означают символы стирания.

Для канала с АБГШ величины   и определяются так:

a) определите  для  как функцию вероятностей  и.

b) параметр скорости  зависит от выбора порога в через вероятности  и. Для определенных значений  величину , которая максимизирует , можно определить методом проб и ошибок. Например, можно показать, что для ниже 0 дБ  для ,  меняется примерно линейно между и . Используя  для всей области , нарисуйте  как функцию  и сравните этот результат с .

7.12. Найдите пропускную способность каскадного соединения  двоичных симметричных каналов с одинаковой вероятностью стирания .

Какова пропускная способность, когда число каналов становится неограниченным?

Рис.Р.7.11

7.13. Каналы 1, 2 и 3 показаны на рис. Р.7.13.

a) найдите пропускную способность канала 1. При каком распределении входа она достигается?

b) найдите пропускную способность канала 2. При каком распределении входа она достигается?

с) Пусть  означает пропускную способность третьего канала, а  и  - пропускные способности первого и второго канала. Какие из следующих соотношений верны и почему?

7.14. Пусть  означает пропускную способность дискретного канала без памяти со входным алфавитом и выходным алфавитом . Покажите, что.

Рис.Р.7.13

7.15. Канал (назовем его ) показан на рис. Р.7.15.

а) Найдите распределение входов, при котором достигается пропускная способность:

b) Каково распределение входа и пропускная способность канала для специальных случаев;

c) Покажите, что если  таких каналов соединены каскадно, то результирующий канал эквивалентен каналу  с

d) Какова пропускная способность эквивалентного  канала, когда ?

Рис.Р.7.15

7.16. Найдите пропускную способность канала с АБГШ с полосой частот 1 МГц, мощностью сигнала 10 Вт и спектральной плотностью мощности шума  Вт/Гц.

7.17. Канал  - это канал с АБГШ с полосой , средней мощностью сигнала  и спектральной плотностью шума . Канал  - это канал с аддитивным гауссовским шумом с той же полосой и мощностью сигнала, как в канале , но со спектральной плотностью мощности шума . Далее предположим, что суммарная мощность шума для обоих каналов одинакова, т.е.

.

Как вы думаете, какой из каналов имеет большую пропускную способность? Дайте интуитивные объяснения.

7.18. Информация от гауссовского источника без памяти с дискретным временем с нулевым средним и дисперсией  должна быть передана по двоичному симметричному каналу с переходной вероятностью ошибки .

a) Какова минимальная величина достижимого искажения в месте назначения (искажения измеряются среднеквадратичной ошибкой)?

b) Если канал без памяти с АБГШ, с дискретным временем, с мощностью входа  и мощностью шума , каково минимально достижимое искажение?

c) Теперь предположите, что источник имеет те же базовые свойства, но он с памятью. Уменьшится или увеличится искажение при передаче информации по ДСК? Почему?

7.19.  - это двоичный источник без памяти с . Информация от источника передается по ДСК с переходной вероятностью .

a) Предположите, что источник непосредственно соединен с каналом, т.е. кодирование не используется. Какова вероятность ошибки в месте назначения?

b) Если в канале произведено кодирование, то какова минимально возможная вероятность ошибки принимаемого сообщения?

c) При каких значениях  возможная надёжная связь (разумеется, с кодированием)?

7.20. Нарисуйте зависимость пропускной способности от  для канала с АБГШ, который передаёт двоичные противоположные сигналы и использует на приёме оптимальный поэлементный детектор. На тех же осях нарисуйте зависимость пропускной способности того же канала, если передаются двоичные ортогональные сигналы.

7.21. В системе связи с кодированием передаются сообщений  посредством  базовых сигналов  каждый длительностью . Общая форма для сигнала  такова:

,

где  может быть одним из двух сигналов  или , причем  при .Кроме того, предположим, что  и  имеют равную энергию , а канал идеальный (нет затухания) с АБГШ со спектральной плотностью . Это значит, что принимаемый сигнал , где  - один из сигналов , a  - шум.

a) При  покажите, что размерность пространства сигналов  удовлетворяет условию;

b) Покажите, что в общем ;

c) При  покажите, что при общих  и

где  - представления для в -мерном пространстве,  - элемент объёма пространства.

d) Используя результат (с), покажите, что для любого

е) Покажите, что

и, следовательно

.