ИНФОРМАЦИИ ПЕРЕДАЧА
— процесс переноса информации от источника сообщений к потребителю сообщений (адресату). Теория И. п. является составной частью информации теории. В теории И. п. изучают оптимальные и близкие к оптим. методы передачи информации по каналам связи в предположении, что можно в широких пределах варьировать методы кодирования сообщений в сигналы на входе канала связи и декодирования сигналов в сообщения на выходе этого канала.
Общая схема системы И. п., которую впервые рассмотрел амер. математик К. Э. Шеннон (р. 1916), представлена на рисунке. Источник сообщений вырабатывает сообщения, подлежащие передаче по каналу связи от источника к потребителю сообщений. Обычно предполагают, что возможные сообщения принадлежат некоторому заданному мн-ву сообщений X, которое может иметь различную природу, с заданными статистическими свойствами (т. е. с заданным распределением вероятностей на пространстве возможных сообщений X). Если известны статистические свойства источника сообщений, это значительно облегчает конструирование системы И. п. Действительно, при выборе метода передачи можно, напр., стремиться к тому, чтобы наиболее быстрой и беспрепятственной была передача частых сообщений.
При конструировании системы И. п. всегда предполагают, что заданными являются требования, предъявляемые к точности воспроизведения сообщений, поскольку в тех случаях, когда мн-во X не является конечным или счетным, нельзя добиться полного совпадения посылаемого и получаемого сообщения при передаче по любому «зашумленному» каналу связи. Однако требование такого полного совпадения является во многих случаях чрезмерным. Так, напр., не следует требовать от конструктора системы радиовещания, чтобы точность воспроизведения радиоприемником звукового сигнала превышала возможности человеческого уха, воспринимающего далеко не весь диапазон частот звуковых колебаний. Математически требование точности воспроизведения сообщения формулируют обычно как некоторое ограничение, выделяющее класс допустимых совместных распределений вероятностей для передаваемого и принимаемого сообщений.
Сообщения, вырабатываемые источником, передаются по каналу связи. При этом передаваться по каналу могут только элементы из некоторого фиксированного мн-ва Y (мн-во Y отлично от мн-ва X, поскольку передаваемые сигналы и сообщения имеют обычно разную природу, напр., сообщения могут быть дискретными, а передаваемые сигналы — непрерывными). В результате передачи по каналу входной сигнал превращается в некоторый сигнал на выходе канала , где Y — тоже фиксированное мн-во. В простейшем случае безошибочной передачи по каналу сигнал у совпадает с у.
Общая схема системы передачи информации.
Однако в любых физически реальных каналах в сообщения вносятся ошибки, которые приводят к тому, что сигнал на выходе отличается от сигнала, поданного на вход канала.
Для превращения сообщения в сигнал необходимо выполнить операцию, которая наз. кодированием сообщения. Она заключается в том, что с каждым из возможных сообщений сопоставляют определенный сигнал на входе канала, т. е. описывают его как ф-цию, отображающую X в Y. В непрерывных каналах связи реально используемые методы кодирования часто наз. модуляцией. Когда сообщение на входе принимает фиксированное значение, то по каналу передается сигнал, соответствующий этому сообщению. С помощью операции декодирования по соответствующему сигналу на выходе канала восстанавливают некоторое значение сообщения, называемое сообщением на выходе канала. В непрерывных каналах связи реально используемые методы декодирования часто наз. демодуляцией. Математически декодирование описывается ф-цией, отображающей пространство Y значений сигнала на выходе в пространство значений сообщения X. Кодирование и декодирование используют неизбежно, если мн-во X отличается по своей природе от мн-ва Y. При этом передавать по каналу сами сообщения нельзя. Один из осн. выводов теории И. п. состоит в том, что с помощью достаточно сложных и соответственно подобранных методов кодирования и декодирования можно
существенно улучшить качество передачи и увеличить ее скорость.
Основную проблему, исследуемую в теории И. п., можно сформулировать следующим образом. Считают известными и фиксированными сообщение с заданными условиями точности воспроизведения и канал связи. Предполагают, что методы кодирования и декодирования можно выбирать произвольно из некоторого достаточно широкого класса возможных методов. Необходимо найти условия, при которых существуют такие методы кодирования и декодирования, что заданное сообщение можно передать по заданному каналу связи так, чтобы удовлетворялись фиксированные условия точности воспроизведения сообщений. При этих условиях необходимо эффективно построить эти методы, если доказано, что они существуют. Разработанными ранее матем. методами эту проблему решить не удалось. Даже для того, чтобы приближенно ее решить в простейших ситуациях, необходимо сочетать теоретико-вероятностные, алгебр, и комбинаторные методы. Приближенные конструктивные решения для простейших каналов связи рассматривают в кодирования теории. К. Э. Шеннон установил, что осн. проблему теории И. п. можно просто и окончательно решить, если применить к ней асимптотический подход, основанный на предположении, что к-во информации, подлежащей передаче, и длительность передачи по каналу стремятся к бесконечности. По Шеннону принято обозначать: С — пропускную способность канала связи и Я — энтропию сообщения при заданных условиях точности. Эти величины он определил как максимум и минимум, соответственно некоторой другой величины, которую он назвал информации количеством. Шеннон показал, что если , то никакие методы кодирования и декодирования не позволяют передать сообщение по каналу связи с заданным условием точности воспроизведения. С другой стороны, если , а энтропия и длительность передачи достаточно велики, то осуществлять передачу с заданной степенью точности воспроизведения можно, соответственно выбрав методы кодирования и декодирования.
Первоначально доказательство теоремы Шеннона имело качественный и нестрогий характер. Позднее под теорию Шеннона была подведена строгая матем. база, сделаны обобщения теорем Шеннона для каналов и сообщений с неизвестными параметрами. Интерес к подобным обобщениям вызван тем, что на практике, как правило, нельзя считать полностью известными параметры источника сообщений и канала связи, тем более, что эти параметры могут иногда меняться в процессе передачи. Поэтому приходится лишь предполагать, что источник сообщений и канал связи принадлежат некоторому классу возможных источников сообщений и каналов. При этом вводится минимаксный критерий качества передачи, при котором качество передачи оценивают для наихудших возможных источников сообщений и каналов, принадлежащих рассматриваемому классу.
Сделаны также обобщения теорем Шеннона для каналов с обратной связью. Наличие полной обратной связи означает, что в момент времени t на входе канала связи считают известными точные значения сигналов на выходе канала для всех моментов времени . В частности, для каналов без памяти с обратной связью осн. результат состоит в том, что наличие обратной связи не увеличивает пропускной способности канала, хотя и может существенно уменьшить сложность кодирующих и декодирующих устройств.
Из других рассматриваемых обобщений следует выделить каналы с погрешностями синхронизации, в которых возможны случайные сбои синхронизации, в результате чего нарушается однозначность соответствия между сигналами на входе и выходе канала, и двусторонние каналы. В двусторонних каналах имеются два потока информации, причем источник сообщений одного потока совмещен с потребителем сообщений другого потока и при этом передачу в обратном направлении можно использовать как вспомогательную — для передачи информации в прямом направлении. Появление работ Шеннона стимулировало исследования по поиску практически реализуемых вариантов методов передачи — оптим. или близких к оптим. Разработаны методы циклического и сверточного кодирования, методы мажоритарного и последовательного декодирования. Они в значительной степени основаны на идеях, использованных в доказательствах теорем Шеннона.
Теор. достижения в области теории кодирования и прогресс в технике вычисл. устройств, алгоритмов кодирования и декодирования, с одной стороны, и развитие техники связи, использующей для И. п. все более сложное и дорогостоящее оборудование, повышение требований к дальности и надежности передачи (напр., в связи с проблемами космической радиосвязи), с другой стороны, — все это привело к тому, что использование рекомендуемых теорией весьма сложных методов кодирования и декодирования становится теперь экономически и технически оправданными.
Лит.: Добрушин P. Л. Теория оптимального кодирования информации. В кн.: Кибернетику — на службу коммунизму, т. 3. М.- Л., 1966; Шеннон К. Математическая теория связи. В кн.: Шеннон К. Работы по теории информации и кибернетике. Пер. с англ. М., 1963; Фано Р. Передача информации. Статистическая теория связи. Пер. с англ. М., 1965; Возенкрафт Дж., Джекобе И. Теоретические основы техники связи. Пер. с англ. М., 1969 [библиогр. с. 629—633].
Р. Л. Добрушин, В. В. Прелов.