для получателя. Так, например, в случае речи ухо в известной мере нечувствительно к фазовым искажениям. Сообщения, различающиеся (до некоторой степени) только фазами своих составляющих, звучат одинаково. Это означает возможность сокращения числа существенных измерений пространства сообщений. Все точки, эквивалентные для получателя, могут быть сгруппированы и рассматриваться как одна точка. Тогда может потребоваться меньше чисел для определения каждого из этих «классов эквивалентности», чем для определения каждой отдельной точки. На рис. 2, к примеру, изображено двумерное пространство, совокупность точек в квадрате.
Рис. 2. Уменьшение числа измерений посредством эквивалентных групп связи.
Если все точки на окружности рассматривать какэквивалентные, то совокупность сводится к одномерной — точка может теперь определяться одним числом, а именно радиусом окружности. В случае звука, если бы ухо было совершенно нечувствительно к фазе, то число измерений могло бы быть уменьшено вдвое. Коэффициенты 
при синусах и косинусах для данной частоты не нужно было бы задавать независимо; достаточно было бы задать лишь полную амплитуду 
для этой частоты. Уменьшение разрешающей способности слуха по частоте с повышением частоты указывает на дальнейшее уменьшение числа измерений. В вокадере в значительной мере используется подобная эквивалентность для звуков речи, во-первых, путем устранения в большой степени фазовой информации, а во-вторых, путем группирования частот в полосы, в особенности в области высоких частот.
В других видах связи может и не существовать такого рода классов эквивалентности. Получатель ощущает любое изменение сообщения в полном пространстве сообщений, имеющем 
измерений. Так обстоит, по-видимому, дело в телевидении.
Второе замечание относится к ограничениям, обусловленным самим источником информации. Пространство 
измерений
содержит точку для любой функции 
ограниченной полосой 
и длительностью 
Класс передаваемых сообщений может быть лишь малым подмножеством всей совокупности этих функций. Например, звуки речи производятся голосовым аппаратом человека. Если исключить передачу всех иных звуков, то действительное количество измерений существенно сократится. Аналогичный результат вытекает из вероятностных соображений. Некоторые сообщения возможны, но настолько маловероятны относительно других, что можно в известном смысле пренебречь ими. В телевизионном изображении, например, весьма правдоподобно, что последовательные кадры различаются лишь незначительно. Вероятность того, что данный элемент изображения сохранит свою яркость в последующих кадрах, очень велика. Математический анализ показывает, что можно значительно сократить число измерений пространства сообщений, если 
велико.
Сейчас не будем углубляться в эти вопросы; предположим лишь, что с учетом сказанного получено пространство сообщений с числом измерений D, которое будет, конечно, меньше или равно 
Во многих случаях использование вышеуказанных возможностей потребовало бы чрезмерного усложнения аппаратуры. Тогда система строится в предположении, что все функции различны и что в источнике информации нет ограничений. В этом случае пространство сообщений имеет полное количество измерений 
измерений было связано с совокупностью возможных сигналов. Подобным же образом можно связать некоторое пространство с совокупностью возможных сообщений. Предположим, что рассматривается передача речи, так что сообщения состоят из всех возможных звуков, не содержащих частот выше 
и длящихся время 
измерений. Необходимо, однако, сделать несколько замечаний. Во-первых, различные точки могут изображать одинаковые сообщения, по крайней мере
