8. Отгадывание

В практических системах связи получателю сообщения иногда необходимо действовать на основании допущения, что было послано какое-то определенное состояние сообщения, даже если принятое у не указывает с достоверностью на единственное значение посланного х. Рассмотрим, например, следующую дискретную систему:

Если принято зеленое или красное, переданные состояния однозначно определены, но если принято синее, «да» и «нет» равновероятны, как и до посылки. Получатель, обязанный действовать в зависимости от допущения, что было послано «да» или «нет», может либо всегда толковать синее как «да», либо всегда как «нет», либо, Даже делать случайный выбор между «да» и «нет» каждый раз,

когда возникает такое положение. Рассмотрим сначала первый вариант:

Это — пример умышленного разрушения информации. Когда уравнение (35) не удовлетворяется. Средняя передача информации между х и у равна

а между

Легко проверить, что еще большее количество информации разрушается, если синему дается случайная интерпретация. Когда «да» и «нет» выбираются с равными вероятностями, передача между меньше Любой способ интерпретации синего является, конечно, одним из видов отгадывания. Из результатов предыдущего параграфа, для которых последний пример служит только иллюстрацией, следует в общем виде, что догадки разрушают информацию.

Когда имеется выбор между различными методами отгадывания, можно пытаться выбрать такой, который вызывает наименьшую потерю информации. Как показывает следующий пример, это может, однако, привести к поразительному конфликту с обычными статистическими представлениями:

Если зеленое интерпретируется как «да», ошибок при приеме зеленого не будет. Если далее отгадывать красное, как «нет», преобразование от у к представляет собой простое переименование. Это — обратимый процесс, при нем информация не теряется, и все же восемь сообщений из десяти дадут неправильное значение

Число ошибок можно сильно уменьшить, если интерпретировать красное как «да», а зеленое как При этом также нет потери информации, и теперь на десять сообщений приходятся лишь две ошибки, причем одна умышленная. Наконец, наименьшее количество ошибок — одна на десять сообщений — получается, если интерпретировать и зеленое и красное как «да». Значение а именно «да», не зависит теперь от х и мы имеем То малое количество информации, которое содержал у, полностью разрушено.

Мы приходим к заключению, что доведение до максимума прироста информации не есть то же самое, что доведение до минимума ожидаемого числа ошибок. Полученный сигнал у и восстановленное сообщение содержат информацию, несмотря на то, что они не претендуют представлять действительно посланный сигнал и лишь потому, что из них могут быть выведены относительные вероятности для различных переданных состояний. С теоретической точки зрения несущественно, будет ли «нет» названо «да» и «да» названо «нет» и даже то, выражены ли на том же языке, что х. Существенно соответствие, а не тождество.