Распространение неведения

Законы физики сохраняют информацию. Количество битов, записанных системой (например, воздушным шариком с гелием), не уменьшается. Такое сохранение информации ограничивает эффективность тепловых машин и одновременно отвечает за второе начало термодинамики. Но здесь есть проблема. Согласно законам физики, общее количество информации не может также и увеличиваться. По существу, они гласят, что при отсутствии взаимодействия с другой системой количество информации в системе остается тем же. Но как же энтропия – а это форма информации – может увеличиваться, если при этом не увеличивается суммарное информационное содержание физической системы? Как может быть, что известная информация становятся неизвестной?

В первоначальном виде энтропия рассматривалась как величина, измеряющая, насколько полезна энергия. Энергия с небольшим количеством энтропии – это полезная (свободная) энергия; энергия с большим количеством энтропии бесполезна. Возможно, легче понять увеличение энтропии в такой формулировке: энергия переходит из полезной формы в бесполезную. Горячая ванна остывает. В автомобиле заканчивается бензин. Молоко скисает. Как можно рассмотреть этот процесс с точки зрения информации? Ответ заключается в фундаментальном свойстве природы, который я называю «распространением неведения». Можно сказать, что неизвестные биты заражают известные.

Мы видели, что энтропия – это информация о микроскопических движениях атомов, таких крошечных, что мы не можем увидеть их даже под самым мощным микроскопом. Каждый атом гелия в нашем воздушном шарике содержит двадцать битов. Но если мы не знаем, где находится отдельный атом в воздушном шарике и как быстро он движется (с точностью, позволенной квантовой механикой), то понятия не имеем, что это за биты. Другими словами, энтропия – невидимая информация – является также мерой неведения.

Кое-какая информация об атомах в воздушном шарике у нас, конечно, есть. Например, мы можем измерить его макроскопическое состояние: размер, температуру, давление, которое атомы гелия оказывают на его стенки. Обычно у нас есть только несколько сотен битов макроскопической информации о физической системе, например о воздушном шарике. Для любой системы можно провести различие между битами, значения которых (0 или 1) мы знаем, и теми, значений которых мы не знаем. Биты, значений которых мы не знаем, составляют энтропию системы: бит энтропии – это бит неведения.

Обратите внимание, что разделение информации на известную и неизвестную до некоторой степени субъективно. Разные люди знают разные вещи. Допустим, например, вы отправили мне короткое электронное письмо, содержащее 100 битов информации. Вы знаете, что это за биты, ведь это вы их отправили. Для вас информация этого электронного письма известна. Пока я не открою это письмо, я не знаю, что это за биты: для меня они все еще невидимы, и на этой стадии я бы посчитал эти 100 битов энтропией. Поэтому разные наблюдатели могут придавать разное значение энтропии системы. Помните демона Максвелла? Он контролирует микроскопические состояния газа, и у него больше информации, чем у наблюдателя, который просто знает температуру и давление газа. Соответственно, для демона в газе меньше энтропии, чем для стороннего наблюдателя. Для целей второго начала термодинамики важно общее количество информации в физической системе. Общее количество информации в физической системе, известной и неизвестной, не зависит от того, кто и как наблюдает за ней.

Предположим, неизвестный бит информации взаимодействует с известным битом информации. После этого взаимодействия первый бит по-прежнему остается неизвестным, но теперь и второй бит тоже становится неизвестным. Неизвестный бит как бы заразил известный, распространяя неведение и увеличивая общую энтропию системы. Идеи вычисления, о которых мы говорили выше, можно использовать для того, чтобы прояснить «заразную» природу неведения.

Возьмем два бита. Значение первого неизвестно – оно может быть или 0, или 1. Значение второго бита известно – скажем, это 0. Таким образом, оба бита вместе находятся в состоянии 00 или 10. Теперь применим к битам следующую простую логическую операцию. Инвертируем второй бит, но если и только если первый бит равен 1. Эту операцию можно назвать «условное не» (controlled-not), потому что она выполняет инверсию (или операцию «не») со вторым битом, используя как сигнал управления состояние первого бита (который в данном случае неизвестен).

Итак, если первый бит будет равен 1, то операция «условное не» изменит второй бит с 0 на 1. Если значение первого бита – 0, то после операции «условное не» значение второго бита останется равным 0. Таким образом, после операции «условное не» пара битов будет или в состоянии 00, или в состоянии 11. Теперь два бита коррелируют – то есть имеют одно и то же значение. Если мы посмотрим на первый бит, то узнаем значение второго бита, и наоборот.

Мы как не знали значение первого бита, так и не знаем его после выполнения операции: он по-прежнему находится в состоянии 0 или в состоянии 1. Но посмотрим на второй бит. Теперь он тоже может находиться в состоянии 0 или 1. Второй бит, значение которого до операции было 0, теперь тоже имеет неизвестное значение. Операция «условное не» заставила неизвестную информацию первого бита «заразить» второй бит – незнание распространилось! (Распространение неведения обратимо. Чтобы вернуть оба бита в исходное состояние, нужно выполнить операцию «условное не» повторно. Операция «условное не» является обратной по отношению к самой себе: выполнить ее дважды – все равно что не делать ничего вообще.)

Распространение неведения увеличивает энтропию отдельных битов в системе. Энтропия первого бита по-прежнему составляет один бит, но энтропия второго увеличивается. Тем не менее энтропия пары битов, взятых вместе, остается постоянной! Перед операцией «условное не» два бита могли находиться в одном из двух состояний – 00 или 10. В системе один бит энтропии – в первом бите из пары. После операции «условное не» пара битов может находиться в одном из двух состояний – 00 или 11. Мы по-прежнему видим один бит энтропии, но теперь он распределен между двумя битами.

Распространение неведения отражается в росте величины, которая называется «взаимная информация». У каждого бита после операции есть собственный бит энтропии, но у двух битов, взятых вместе, тоже есть только один бит энтропии. Взаимная информация равняется сумме энтропий, взятых по отдельности, минус энтропия двух битов, взятых вместе. Другими словами, у двух битов есть ровно один бит взаимной информации. Какую бы информацию они ни содержали, они содержат ее вместе.

Дата добавления: 2015-11-14