Физика процессов эволюции - Эбилинг В.
Скачать (прямая ссылка):
как показывают фундаментальные исследования Сцилларда и Бриллюэна, уменьшение неопределенности количественно связано с обменом энтропией. Количество передаваемой информации определяется уменьшением неопределенности:
Д1=-ДЯ, (11.1)
при этом неопределенность для системы с п состояниями по Шеннону задается формулой
П
Я = ?>, logр,"'- (11-2)
i=i
Шенноновская if-функция есть среднее значение неопределенностей отдельных состояний log pi1. Сравнивая выражение (11.2) с энтропией Больцмана—Гиббса, мы обнаруживаем, что каждое изменение неопределенности связано с изменением энтропии системы формулой
AS = kBAH. (11.3)
Величина Я вычисляется с помощью натуральных логарифмов, a fee — постоянная Больцмана:
feB = 1,381 ¦ КГ23 Дж/К. (11.4)
Таким образом, получение информации о системе осуществляется ценой передачи энтропии. Иначе говоря, поток информации всегда сопровождается пропорциональным ему потоком энтропии. Взаимосвязь между энтропией и мерой информации носит качественный характер и весьма существенна, это — фундаментальный закон, связывающий физику и теорию информации. Правда, не каждая передача энтропии связана с передачей информации, поэтому в более общем случае справедливо неравенство
ДЮв‘|ДЯ (11.5)
Оно означает, что передача информации всегда меньше (в единицах к$) передачи энтропии. В реальных процессах энтропия может быть передана многими различными способами, например, путем теплопередачи; передача информации представляет собой лишь частный случай переноса энтропии между двумя системами. В гл. 3 мы показали, что энтропия удовлетворяет не закону сохранения, а второму началу термодинамики. Это начало утверждает, что энтропия, хотя и может быть произведена, никогда не уничтожается. Поэтому энтропия и тем самым неопределенность состояния системы может уменьшаться только в системах с накачкой, отдающих энтропию окружающей среде. Сама по себе энтропия и тем самым неопределенность состояния системы может только возрастать, т. е. информация сама по себе может только утрачиваться. Только в открытых системах (с накачкой), отдающих энтропию, информация может приобретаться. Так как в термодинамическом равновесии энтропия и тем самым неопределенность состояния максимальны, для информационных процессов необходимы неравновесные условия. Поэтому переработку информации можно рассматривать как некую частную разновидность самоорганизации.
Количественное соотношение между физической энтропией и неопределенностью состояния позволяет высказать ряд важных физических утверждений об информационных процессах. Соотношение (11.5) Сциллара—Бриллюэна между энтропией и шенноновской мерой неопределенности можно в определенном смысле сравнить с соотношением Эйнштейна между массой и энергией
Е = тс2. (11.6)
Оба соотношения эквивалентности означают не тождественность величин, стоящих в их правых и левых частях, и не превращаемость одной величины в другую. Подобно тому, как масса не может переходить в энергию, физическая энтропия не может переходить в неопределенность состояния. Однако одна форма массы (соответственно, энтропии) может превращаться в другую, и параллельно с этим превращением соотношение эквивалентности вызывает соответствующее, превращение одной формы энергии (соответственно, неопределенности состояния) в другую. Именно в этом смысле мы можем говорить об информационной энтропии. Речь идет о форме энтропии, непосредственно связанной с информационными процессами. Из подобной точки зрения следует, что не каждая передача энтропии связана с передачей информации, а лишь такая, которая сопряжена с частью, наделенной информационными свойствами, т. е. с информационной Э1щюпией. Полная передача энтропии при информационном процессе, разумеется, может быть больше, чем доля информационной энтропии, о чем и свидетельствует неравенство (11.5).
Как правило, изменение энтропии так же, как и изменение энергии, в информационных процессах чрезвычайно малы по сравнению с полным запасом энтропии и энергии. Часто из этого делается вывод о том, что энтропийный аспект информационных систем якобы несуществен. Так, известный биофизик Л. А. Блюменфельд считает, что в термодинамическом смысле биологическая система упорядочена ничуть не больше, чем равный ей по весу камень, и что соответствующая энтропия не превышает ту, которая приводит к испарению нескольких сотен граммов воды. Такие рассуждения не отражают сути дела. По сравнению с энергией покоя вещества все химические процессы соответствуют лишь небольшой «завитушке» на поверхности энергии, однако делать из этого вывод, будто энергия несущественна для химических процессов, означало бы немедленно вызвать противоречия. Для информационных процессов поток энтропии является существенной составляющей, хотя доля информационной энтропии от общей энтропии системы, как правило, чрезвычайно мала; однако именно эта доля существенна для обмена информации. Значение имеет не отношение информационной энтропии к полной энтропии, а абсолютная величина информационной энтропии, так как именно она соответствует уменьшению энтропии по сравнению с максимальным значением в состоянии равновесия. Подобно тому, как энергия при обмене между двумя системами выступает в различной форме (механическая, тепловая, электрическая энергия и т. д.), энтропия при обмене также принимает различные формы (термо-калорическая энтропия или энтропия смешивания), и одной из этих форм является информационная энтропия. Но подобно тому, как мы не приписываем связанной энергии ту или иную форму, не следует придавать какую-нибудь форму и связанной энтропии. Старый спор о том, можно ли вообще считать информацией связанную, покоящуюся информацию, с этой точки зрения беспредметен. Связанная энтропия (соответственно, неопределенность положения) является не информационной энтропией, а простой энтропией, она не имеет никакой формы и обретает форму только в процессе обмена.
