Математическое описание систем. Энтропия и потенциальная функция.

Энтропия и потенциальная функция При изучении систем с информационно-теоретической точки зрения часто ее описание дается на языке энтропии и потенциальных функций. По аналогии с классической механикой и теорией поля можно рассматривать реакцию системы на внешнее воздействие как динамическое изменение состояния системы, в процессе которого она стремится минимизировать некоторую потенциальную функцию. В зависимости от конкретного вида системы и принятых допущений такая динамика может быть локальной в смысле движения системы к относительному минимуму, ближайшему к текущему состоянию, или глобальной в смысле движения к абсолютному (глобальному) минимуму соответствующей потенциальной функции.

Приближенное описание динамического процесса на языке потенциальных функций включает следующие составляющие:

• пространство состояний (фазовое пространство) Z;
• набор входных функций X;
• гладкое отображение f: Z*X → R;

где R — есть пространство действительных чисел.

При этом предполагается, что система ведет себя так, что при фиксированном входе x ее наблюдаемое состояние соответствует локальному либо глобальному минимуму потенциальной функции.

Рис.5.1 — Потенциальная функция системы

А) — движение к локальному минимуму;

В) — движение к глобальному минимуму;

f(z,a) — потенциальная функция;

z(a) — начальное положение системы, где а — внешний параметр.

Замена параметра а на а* приводит к изменению положения минимума функции f(z,a).

Использование потенциальной функции для описания хорошо изученных физических систем оказалось весьма удачной альтернативой внутренних описаний. Успешное применение такого подхода в классической физике обусловлено существованием незыблемых вариационных принципов, таких как принципы Гамильтона, Ферма и Даламбера. В большинстве случаев внутреннее описание физического процесса на языке потенциальных функций естественным образом вытекает из описания с пoмощью потенциальных функций в силу уравнений Гамильтона-Якоби и Эйлера-Лагранжа.

В системах, которые являются предметом изучения общественных наук, возможность использования такого описания не столь обоснована из-за сложности применения вариационных принципов. Однако в ряде случаев при анализе устойчивости или в теории катастроф знание точного вида потенциальной функции не является необходимым для определения важных качественных свойств системы — важен лишь сам факт ее существования.

С описанием системы на языке потенциальных функций тесно связана идея описания поведения систем с помощью энтропии. Как известно из классической термодинамики, энтропия является мерой беспорядка, существующего в данной физической системе. Мерой упорядоченности системы является отрицательная энтропия или негэнтропия. В основе описания динамического процесса с помощью энтропии лежит предположение преобразовании негэнтропии входа в информацию. Это означает, что все замкнутые системы изменяются таким образом, что минимизируют изменение энтропии. Таким образом, становится очевидной связь между описанием на языке потенциальных функций и энтропии.

Чтобы показать общность описаний в терминах энтропии, перечислим основные аксиомы релятивистской теории информации, развитой Джюмэри для динамических процессов.

Аксиома 1. Система является частью некоторой вселенной и развивается только постольку, поскольку она преследует некоторую цель.

Аксиома 2. Для достижения цели система воспринимает информацию I из окружающей среды и использует эту информацию для перестройки собственной организации (внутренней структуры) A, в результате которой увеличилась бы негэнтропия n, и для оказания воздействия L на окружающую среду.

Аксиома 3. (Принцип эволюции). Структурная энтропия Е системы определяется соотношением dE = dI/n и является неубывающей функцией эволюции.

Аксиома 4. Вселенная не может наблюдать собственную эволюцию. В силу этих аксиом уравнение состояния системы имеет вид:

f(H_e, H_i, ν) = 0, где

• H_e — внешняя энтропия системы по отношению к фиксированному наблюдателю R,
• H_i — внутренняя энтропия системы по отношению к наблюдателю R,
• ν — цель системы с точки зрения наблюдателя R.

При таком подходе к описанию системы наблюдатель (или лицо, принимающее решение) играет особую роль, причем особый упор делается на кинематический подход, основанный на аналогах преобразования Лоренца для двух наблюдателей R и R*.

Анализируя уравнение состояния, можно заметить, что знание функции f позволяет вычислить структурную энтропию Е c помощью соотношения, описывающего обмен информацией:

dI = α⋅dH_e + β⋅dH_i

Пример 1. Одномерная динамика

Рассмотрим простую динамическую систему x(t) = u(t),

где x(t) и u(t) — скалярные функции. Поскольку внешняя энтропия H_e обладает теми же свойствами, что и время t, произведем замену: t H_e. Более того, имеет смысл отождествить внутреннее состояние x с внутренней энтропией H_i. Тогда динамика системы эквивалентным образом описывается уравнением

dH_i - u(H_e)⋅dH_e = 0

Попытаемся теперь построить функцию состояния f в соответствии с приведенным выше ее определением. Из равнения состояния следует, что

df/dH_e⋅dH_e + df/dH_i⋅dH_i + df/dν⋅dν = 0

Не имея дополнительной информации о системе, можно предположить, что ее цель не меняется.Интегрируя уравнение динамики, получаем

f(H_i, H_e, ν) = H - ∫u(s)ds = 0

где H_e0 — внешняя энтропия в начальный момент времени t₀.

Проведенный анализ показывает, что система x = u не определена с точки зрения обмена информацией с окружающей средой. Более того, такой обмен вообще не имеет места.

Пример 2. Стационарная динамика

Рассмотрим систему, описываемую уравнением

x(t) = Ψ[X(t)]

которое способом, аналогичным рассмотренному в примере А, можно привести к виду

dH_i - Ψ(H_i)dH_e = 0

Чтобы получить уравнение состояния, следует записать

df/dH_i = 1 ⇒ f = H_i + k(H_e)

df/dH_e = Ψ(H_i) ⇒ Ψ(H_i) = f(H_e)

Однако эти уравнения противоречивы и уравнение динамики следует рассматривать не как уравнение состояния, а как уравнение обмена информацией

dI = dH_i - Ψ(H_i)dH_e = 0

Следовательно, система не обменивается информацией с окружающей средой и развивается с постоянной структурной энтропией, что находится в соответствии с автономным характером системы.

В целом можно сказать, что «энтропийный» подход к анализу систем основан на трактовке системы, как некоторого единого целого. Отсюда следует, что понять сущность системы можно, лишь изучая ее взаимодействие с окружающей средой, т.е. с некой «вселенной». Взгляд на систему как на единое целое можно развить, введя понятие «связь». Весь комплекс связей и их характеристик приводит к понятию «структура» и «сложность» системы.