Остается подробно изучить связь между логической необратимостью и изменениями энтропии. Например, снова рассмотрим операцию установки в единицу. Обобщение рассуждений на более сложные логические операции будет тривиальным.

Допустим сначала, что операция установки в единицу уже выполнена на каждом из битов ансамбля. Эта ситуация напоминает ансамбль спинов, направленных вдоль положительного направления оси $z$. В тепловом равновесии биты (или спины) могут находиться в двух равновероятных состояниях. Наши специально приготовленные системы обнаруживают гораздо больше упорядоченности, а следовательно, более низкие по сравнению с характерными для состояния равновесия температуру и энтропию. При адиабатическом размагничивании используется как раз такое спиновое состояние, и в процессе дезориентации спинов система получает энтропию от окружающей среды, а решетка, в узлах которой находятся спины, размораживается. Ансамбль упорядоченных битов ведет себя аналогично. По мере повышения температуры и забывания начального состояния окружающая среда размораживается. Отметим, что наиболее важным моментом здесь является не то, что в начальном состоянии все биты ансамбля согласованы, а только то, что существует единственное, хорошо определенное начальное
состояние для набора битов. Хорошо определенное начальное состояние соответствует, по обычному в статистической механике определению энтропии $S=k \ln W$, нулевой энтропии. Информационные степени свободы могут посредством тепловой релаксации перейти в любое из $2^{N}$ состояний (для $N$-битового ансамбля), при этом энтропия увеличится до $k N \ln 2$.

Отметим, что наши рассуждения не обязательно зависят от часто упоминаемой связи между энтропией и информацией. Мы просто рассматриваем каждый бит как локализованный в физической системе, возможно, со многими степенями свободы, помимо информационной. Однако для каждого возможного физического состояния, которое будет интерпретироваться как нуль, имеется практически идентичное возможное физическое состояние, в котором физическая система представляет единицу. Следовательно, для системы в состоянии единицы доступно в два раза меньше состояний, чем для системы, которая может находиться в единице или в нуле. (В этом разделе и при последующем рассмотрении мы будем игнорировать случай, когда единица и нуль представлены состояниями с различной энтропией. Этот случай требует более сложной аргументации, но приводит к аналогичным физическим выводам.)

При выполнении операции установки в единицу происходит обратный процесс. В начале каждый бит находится в одном из двух состояний, а в конце имеет место хорошо определенное состояние. Изучим эту операцию подробнее.

Рассмотрим статистический ансамбль состоящий из битов, находящихся в тепловом равновесии. Если все биты переводятся в единицу, то число состояний, занимаемых ансамблем, сокращается вдвое. Энтропия, следовательно, уменьшается на $k \ln 2=0.6931 k$ на бит. Энтропия замкнутой системы, например, компьютера с собственными источниками энергии, не может уменьшаться; следовательно, она должна проявиться в качестве эффекта нагревания где-нибудь еще, восполняя $0.6931 k T$ на бит. Конечно, это минимально возможное нагревание, и наши рассуждения не гарантируют, что этот минимум реально достижим.

Рассмотренная нами операция установки применялась к ансамблю в тепловом равновесии. В действительности хотелось бы понять, что
происходит в конкретной вычислительной схеме, работающей с информацией, которая еще не нагрелась, но состоит из хорошо определенных состояний единица или нуль. Пусть для начала операция установки выполняется на случайной цепи, состоящей из единиц и нулей. Можно, как обычно, использовать эквивалентность статистического ансамбля усреднению по времени и сделать вывод о том, что диссипация только на одну операцию установки для временной последовательности равна диссипации для нагретого ансамбля.

Компьютер, однако, вряд ли работает со случайными данными. Одно из двух состояний бита может появляться чаще другого или даже, если эти вероятности совпадают, может иметь место корреляция между соседними битами. Другими словами, установленные значения не отражают максимально возможного объема информации. Рассмотрим крайний случай, когда на входе установлены только единицы и не требуется выполнять никаких операций. Очевидно, что не происходит изменений энтропии и отсутствует диссипация. И наоборот, если все начальные состояния – нули, то они не несут информации и их установка в единицы не приводит к изменениям энтропии. Отметим, что операция установки, используемая в случае, когда на входе все единицы (ничего не делать), не может применяться в том случае, когда на входе все нули, а мы хотим перевести их в единицы. Теперь положение аналогично фазовому переходу между двумя фазами в равновесии, и процесс может быть сделан обратимым без увеличения энтропии Вселенной, достаточно только изобрести специально для этой задачи некоторую процедуру установки. Таким образом, в случае, когда начальные состояния не обладают максимально возможным расхождением, неизбежное повышение энтропии в операции установки может быть нейтрализовано, но только с использованием наших знаний о входных данных и соответствующей реализации этой операции.

Обобщение на другие логически необратимые операции очевидно и будет проиллюстрировано только одним дополнительным примером. Рассмотрим совсем небольшой специально созданный компьютер с тремя двоичными элементами $p, q$ и $r$. Машинный цикл заменяет $p$ на $r$, $q$ на $r$ и $r$ на $p \cdot q$. Всего имеется восемь возможных начальных состояний, и в тепловом равновесии они появляются с равной вероятностью. На сколько может уменьшиться энтропия за машинный цикл? Начальные и конечные состояния машины показаны на рис. 5. Состояния $\alpha$ и $\beta$ появляются с вероятностью $1 / 8$ каждое, состояния $\gamma$ и $\delta$ – с вероятностью $3 / 8$ каждое. Начальная энтропия была равна
\[
S_{i}=k \ln W=-k \Sigma \rho \ln \rho=-k \Sigma \frac{1}{8} \ln \frac{1}{8}=3 k \ln 2 .
\]

Конечная энтропия есть
\[
S_{f}=-k \Sigma \rho \ln \rho=-k\left(\frac{1}{8} \ln \frac{1}{8}+\frac{1}{8} \ln \frac{1}{8}+\frac{3}{8} \ln \frac{3}{8}+\frac{3}{8} \ln \frac{3}{8}\right) .
\]

Разность $S_{i}-S_{f}$ равна $1.18 k$. Следовательно, минимальная диссипация для начального состояния, не несущего полезной информации, равна $1.18 k T$.

Рис. 5. Устройство с 3 входами и 3 выходами, которое 8 возможных состояний отображает на 4 различных состояния

Возникает вопрос, действительно ли энтропия снижается логически необратимой операцией. Если мы на самом деле отображаем возможные начальные состояния нуль и возможные начальные состояния единица на одно и то же пространство, т.е. пространство состояний единица, никакого вопроса нет. Но возможно, что после выполнения операции может остаться некоторая небольшая разница между системой, которая уже была в состоянии единица, и той, которая должна быть переведена в нее. Если такая разница существует в течение некоторого промежутка времени, в этом нет большого вреда, но как было показано в обсуждении недиссипативного субгармонического осциллятора, нельзя проигнорировать кумулятивный процесс, во время которого различия между всевозможными состояниями единица становятся все больше и больше в соответствии с их предысторией. Следовательно, физическое отображение «много в одно», которое и является источником изменений энтропии, не должно осуществляться во всех деталях во время машинного цикла, выполняющего логическую функцию. Но оно обязательно должно иметь место, и это все, что относится к исследованию выделения тепла.