ИЗ ПРЕДИСЛОВИЯ АВТОРА

За последние годы народилась новая научная теория — теория информации. Она немедленно привлекла большой интерес и быстро распространилась. Эта новая теория возникла первоначально в результате практического и утилитарного обсуждения некоторых основных проблем: Каким образом возможно определить количество информации, содержащейся в передаваемом сообщении или телеграмме? Как измерить количество информации, сообщаемой при помощи телеграфных сигналов? Как сравнить эти две величины) и оценить эффективность кодирующих устройств? Все эти вопросы и многие другие подобные заботят инженера связи и могут теперь обсуждаться с количественной точки зрения.

Из этого обсуждения возникла новая теория, имеющая как практический, так и математический характер. Теория основана на вероятностных соотношениях. Точно сформулированная, она может применяться во многих основных научных рассуждениях. Она позволяет решить проблему демона Максвелла и показать непосредственную связь между информацией и энтропией. Термодинамическая энтропия есть мера недостатка информации о некоторой физической системе. Когда в лаборатории производится какой-либо эксперимент, он оплачивается увеличением энтропии, и обобщенный принцип Карно устанавливает, что цена, уплаченная в виде

увеличения энтропии, всегда больше, чем полученное количество информации. Информация соответствует отрицательной энтропии, для которой автор ввел термин негэнтропия. Обобщенный принцип Карно может также быть назван негэнтропийным принципом информации. Этот принцип накладывает новые ограничения на физические эксперименты и не зависит от известного соотношения неопределенности квантовой механики.

Настоящая книга основана на лекциях, читанных инженерам фирмы International Business Machine Corporation, а позднее в различных университетах, в частности в Калифорнийском университете в Беркли.

Леон Бриллюэн

Январь 1956 г.