Общенаучное значение понятия энтропии: соотношение энергии, информации и энтропии

Понятие энтропии было введено Р. Клаузиусом, сформулировавшим второе начало термодинамики, согласно которому переход теплоты от более холодного тела к более теплому не может происходить без затраты внешней работы.

Позднее Р. Больцман дал статистическую трактовку энтропии через вероятность нахождения молекул идеального газа в некоторой фиксированной ячейке фазового пространства. В этой трактовке, ставшей для нас привычной, понятие энтропии играет существенную роль как своеобразная мера упорядоченности физической системы.

Сам факт, что изучение порядка оказывается возможным в терминах случайных событий, весьма любопытен с методологической точки зрения. В самом деле, с понятием порядка, упорядоченности связывают обычно наличие строгой закономерности в расположении элементов системы, жесткой детерминации отношений и связей между ними. Порядок исключает хаос. Но вот оказывается, что упорядоченность можно оценить и измерить лишь при условии, что система будет описываться как статистический объект, в котором допускаются хаос и неразбериха. Другими словами, порядок предполагает хаос.

Глубокая связь между понятиями порядка и хаоса, организации и дезорганизации послужила сильнейшим стимулом к проведению целого ряда серьезных исследований понятия энтропии и её роли как в области физических явлений, так и в мире живой природы.

Энтропия характеризует определенную направленность процесса в замкнутой системе. В соответствии со вторым началом термодинамики возрастанию энтропии соответствует направление теплового потока от более горячего тела к менее горячему. Непрерывное возрастание энтропии в замкнутой системе происходит до тех пор, пока температура не выровняется по всему объему системы. Наступает, как говорят, термодинамическое равновесие системы, при котором исчезают направленные тепловые потоки и система становится однородной.

Абсолютное значение энтропии зависит от целого ряда физических параметров. При фиксированном объеме энтропия увеличивается с увеличением температуры системы, а при фиксированной температуре увеличивается с увеличением объема и уменьшением давления. Нагревание системы сопровождается фазовыми превращениями и снижением степени упорядоченности системы, поскольку твердое тело переходит в жидкость, а жидкость превращается в газ. При охлаждении вещества происходит обратный процесс, упорядоченность системы возрастает. Эта упорядоченность проявляется в том, что молекулы вещества занимают все более определенное положение относительно друг друга. В твердом теле их положение фиксировано структурой кристаллической решетки (с точностью до колебательного процесса, интенсивность которого зависит от температуры тела).

Следует подчеркнуть, что формальное определение энтропии само по себе не опирается на субстанциональные характеристики систем. Другими словами, вовсе не важно, из чего построена система. Зато важно, как она себя ведет: является ли ее поведение детерминированным, однозначно определенным или существенную роль играют случайные процессы. Легко поэтому понять, почему энтропия оказывается важной категорией также за пределами физики, в отраслях науки, где изучаются вероятностные процессы, в том числе в теории информации.

Математическая теория информации ведет свое летосчисление от работ Н. Винера и К. Шеннона, появившихся в конце 1950;х гг. Теория была построена на базе статистических методов. Понятие энтропии играет в ней центральную роль как мера информации, точнее, как мера неопределенности. Снятие неопределенности (уничтожение энтропии) трактуется как акт получения информации. Где появляется информация, там исчезает энтропия.

Следует, однако, отметить, что анализ конкретных организационных структур при помощи энтропийных критериев не привел к сколько-нибудь интересным результатам. И это, по-видимому, не случайно. Одна из причин заключается в том, что энтропия — слишком общая характеристика системы, не учитывающая специфических особенностей конкретных организационных структур. Имеются и другие причины более принципиального свойства. Одна из них — функциональная природа энтропии. Будучи функциональной характеристикой системы, энтропия, вообще говоря, не затрагивает внутренних структурных особенностей системы, а определяет черты ее поведения в целом. С этой причиной тесно связана вторая — зависимость величины энтропии от наблюдателя. Как уже говорилось, акт наблюдения приводит к понижению энтропии системы за счет превращения ее в информацию.

Оценка упорядоченности с помощью энтропии также имеет свои особенности. Упорядоченность здесь оценивается лишь в смысле однозначной определенности состояний. Неподвижная груда кирпичей и построенный из кирпичей дом могут оказаться одинаково хорошо упорядоченными с точки зрения энтропийной оценки, поскольку в обоих случаях положение кирпичей фиксировано, однозначно определено.

В 1929 г. немецкий физик Сциллард, анализируя известный мысленный эксперимент с «демоном Максвелла», показал, что энтропия, теряемая газом за счет разделения молекул на медленные и быстрые, в точности равна информации, получаемой «демоном Максвелла». Другими словами, сумма энтропии и информации в системе «газ-наблюдатель» оказалась постоянной величиной.

Это явилось своего рода сенсацией. В самом деле, здесь мы сталкиваемся с довольно необычной ситуацией. Физическая характеристика становится мерой познания. Причем наблюдатель узнаёт о системе ровно столько, сколько она теряет. Познавая систему, он изменяет ее, «нарушая» при этом второе начало термодинамики. Собственно говоря, такое нарушение действительно неизбежно, поскольку вмешательство наблюдателя, проводящего измерения в системе, нарушает ее замкнутость, а следовательно, исчезают условия, при которых бывает справедлив закон возрастания энтропии.

Можно ли считать, что энтропия действительно способна превращаться в информацию? Некоторые авторы настроены в этом отношении весьма скептически, полагая, что физическая энтропия и энтропия в теории информации имеют лишь формальное и, следовательно, случайное сходство. Другие авторы прямо говорят о том, что энтропия переходит в информацию и что получение наблюдателем какой-либо информации о системе неизбежно приводит к эквивалентному снижению энтропии в этой системе.

Большинство советских философов сходятся на том, что тесная взаимосвязь энтропии и информации не случайна. Вместе с тем сейчас уже не вызывает сомнений, что понятие информации выходит за рамки обычной статистической трактовки и не может быть сведено к энтропии. Его анализ требует более широкого подхода.

Мнение Л. Бриллюэна о том, что энтропия и информация не могут трактоваться порознь и всегда должны рассматриваться совместно, в настоящее время опровергнуто мощным потоком работ по «разнообразностной», семантической и прагматической концепциям информации. Как справедливо отмечает Б. В. Бирюков, статистическая трактовка информации в духе шенноновской теории «положила лишь начало работе по уточнению понятия информации». Это, впрочем, не означает, что анализ глубокой взаимосвязи между энтропией и информацией, проведенный Л. Бриллюэном, лишается смысла. Идея Л. Бриллюэна, пишет Б. В. Бирюков, «имела существенное значение для развития материалистической интерпретации информации (количества информации). Такая интерпретация направлена против спиритуалистских и неопозитивистских интерпретаций феномена информации». Дальнейшее развитие этой интерпретации продолжает оставаться актуальным и сейчас, в особенности если учесть, что дисциплины, в рамках которых строятся надлежащие экспликации анализируемых понятий (в данном случае теория Хартли-Шеннона), существенно помогают, как пишет Б. В. Бирюков, А. Д. Урсул и Г. Н. Поваров, философской мысли.