3. ПОНЯТИЕ ИНФОРМАЦИИ

Теория информации и основные методы ее находят все более широкое применение в самых различных областях: в теории связи, физике, теории измерений, при обработке результатов научных наблюдений и т. д. Присущая теории информации общность позволяет применить ее положения к задачам проектирования измерительных устройств, используемых в системах автоматического регулирования и управления. Последнее представляется исключительно важным, поскольку до настоящего времени еще нет общей теории измерительных устройств систем автоматики.

Рис. 1.8. Структурная схема системы связи

Под. информацией в широком смысле понимаются те сведения об окружающем мире, которые получены в результате взаимодействия с ним, приспособления к нему и изменения его в этом процессе приспособления. Информация передается при помощи сигналов, воплощенных в изменениях той или иной физической величины, отображающих последовательность каких-либо событий.

Процесс передачи информации в системах связи происходит следующим образом (рис. 1.8). Источник информации «готовит» сообщение. Сообщение, цесущее в себе информацию, состоит из символов, которыми могут быть буквы, цифры, математические знаки и т. д. Таким образом, сообщение представляет некоторую последовательность символов, каждый из которых выбирается из всей имеющейся совокупности символов. Сообщение поступает на вход чувствительного элемента датчика (или передатчика). Датчик, в свою очередь, пользуясь тем или иным кодом, преобразует сообщение в сигнал.

Кодом называется правило, при помощи которого передаваемому письменному или устному сообщению можно привести в однозначное соответствие некоторую комбинацию элементарных сигналов,

а сама операция перевода сообщения в последовательность элементарных сигналов — процессом кодирования. Код, содержащий два различных элементарных сигнала, называется двоичным, три элементарных сигнала — троичным и т. д. В качестве одного из элементарных сигналов двоичного кода на практике обычно применяется посылка тока, а в качестве другого — его выключение (пауза).

В случае передачи информации по телеграфу сообщение в виде текста телеграммы превращается при помощи кода Морзе в последовательность электрических импульсов, которые и представляют собой сигнал. Сигнал поступает в канал связи и попадает на вход приемника, где происходит обратное преобразование сигнала в сообщение или, как говорят, декодирование сигнала. Сообщение воспринимается получателем. Во время передачи по каналу связи на сигнал неизбежно налагаются помехи, которые в большей или меньшей степени искажают сигнал.

Процесс образования сообщения рассматривается как вероятностный процесс, представляющий собой последовательность выборов из некоторой совокупности элементарных символов, причем выбранная совокупность и образует сообщение. Роль вероятности здесь заключается в том, что выбор последующих символов на любой стадии процесса зависит вероятностным образом от предыдущих выборов. В свою очередь, каждое в действительности передаваемое сообщение есть результат выбора из всей возможной совокупности сообщений одного из них. Чем большее количество информации содержит сообщение, тем оно является более неожиданным и тем более неопределеннее положение в результате приема сообщения получателем превращается в определенное.

Причина, по которой понятию количества информации придается смысл, характеризующий не отдельное сообщение, а всю статическую природу источника информации, заключается в следующем.

Инженер, проектирующий канал связи, должен рассчитать его так, чтобы он был пригоден для передачи любого сообщения, которое может быть произведено источником информации. При этом, если невозможно или невыгодно спроектировать канал связи, имеющий во всех случаях одинаково хорошие характеристики, то его нужно рассчитать так, чтобы он обладал наилучшими характеристиками в наиболее вероятных условиях работы и был менее эффективен в более редких случаях. Такого рода соображения сразу же приводят к необходимости характеристики всей совокупности или всего ансамбля сообщений, который может производить данный источник сообщений.

Инженер, интересуясь в конце концов правильным воспроизведением сообщения, измеряет содержание информации в нем его вероятностью или, если можно так выразиться, его «неожиданностью». Поэтому если требуется передать «белый шум», который представляет собой результат выбора любого из ансамбля имеющихся символов с одинаковой вероятностью, т. е. сигнал, изменяющийся абсолютно случайным, непредсказуемым образом, то к системе,

передающей информацию, будут предъявляться наиболее жесткие требования и поэтому инженер, проектирующий эту систему, будет считать, что «белый шум» связан с наибольшим количеством информации, несмотря на то, что после его приема будет обнаружена его полная бессмысленность.

Отсюда ясно, что содержание информации для приемника не имеет прямой связи с количеством информации для инженера, обеспечивающего его передачу. При передаче сигнала цажна вероятность его выбора, его «неожиданность», а для приемника — его смысл. К сожалению, понятие информации, применяемое в теории связи, не затрагивает вопроса о ее смысле, значении, ценности. Определение не делает различия между очень важной и совершенно несущественной информацией. Это — серьезное ограничение, но оно позволяет дать количественное определение информации и рассматривать ее как физически измеримую величину. Будучи статистическим, понятие информации является объективным, не зависящим от наблюдателя. Смысл, ценность информации, очевидно, могут быть очень велики для наблюдателя А и не иметь никакого значения для наблюдателя Б.

Передача информации возможна лишь при удовлетворении следующих трех условий:

1) сообщения должны представлять собой случайную непредсказуемую последовательность символов;

2) источник информации должен уметь осуществлять селективные операции над символами, из которых образуются сообщения;

3) эти символы должны иметь один и тот же определенный смысл не только для источника, но и для приемника информации, определяемый принятым кодом.

Сформулированные условия можно пояснить следующим образом. Если на приемном конце заранее известно содержание сообщения, то никакой информации при его приеме, очевидно, не будет получено. Таким образом, в основе понятия информации лежит предположение о невозможности, по крайней мере, однозначного предсказания сообщений, которые будут приняты в будущем на основании сообщений, принятых в прошлом.

Далее, полное незнание также исключает возможность передачи информации: для передатчика и для приемника должен существовать общий язык, или код. Если читатель не знает языка, на котором написана книга, то она не может сообщить ему никакой информации, как бы ни было важно и интересно ее содержание.

Необходимость удовлетворения второго условия ясна из следующего. Обезьяна, печатающая на телетайпе, является генератором символов, имеющих определенный смысл для приемника, но она не является генератором информации, так как для нее эти символы не имеют смысла и она не может осуществлять над ними селективные операции, вследствие чего последовательность выбираемых ею символов не имеет смысла для приемника.

Из сказанного выше ясно, что фраза: «а есть источник информации» является незаконченной и, вообще говоря, не имеет смысла. Для того чтобы ее закончить и придать смысл, нужно сказать: «а есть источник информации для приемника ».