Постановка задачи динамического программирования.

Постановку задачи динамического программирования рассмотрим на примере инвестирования, связанного с распределением средств между предприятиями. В результате управления инвестициями система последовательно переводится из начального состояния - S₀ в конечное - S_n. Предположим, что управление можно разбить на n шагов и решение принимается последовательно на каждом шаге, а управление представляет собой совокупность n пошаговых управлений. На каждом шаге необходимо определить два типа переменных - переменную состояния системы S_k и переменную управления x_k . Переменная S_k определяет, в каких состояниях может оказаться система на рассматриваемом k - м шаге. В зависимости от состояния S на этом шаге можно применить некоторые управления, характеризующиеся переменной x_k, которые удовлетворяют определенным ограничениям и называются допустимыми. Допустим - управление, переводящее систему на состояния S₀ в состояние S_n , a S_k - есть состояние системы на k -м шаге управления. Применение управляющего воздействия x_k на каждом шаге переводит систему в новое состояние S_k (S, x_k) и приносит некоторый результат W_k (S, x_k). Для каждого возможного состояния на каждом шаге среди всех возможных управлений выбирается оптимальное управление , такое, чтобы результат, который достигается за шаги с k -го по последний n - ый, оказался бы оптимальным. Числовая характеристика этого результата называется функцией Беллмана F_k (S) и зависит от номера шага k и состояния системы S.

Задача динамического программирования формулируется следующим образом: требуется определить такое управление , переводящее систему из начального состояния S₀ в конечное состояние S_n, при котором целевая функция принимает наибольшее (наименьшее) значение F(S₀ , ) => ext.

Рассмотрим более подробно особенности математической модели динамического программирования:

1. задача оптимизации формулируется как конечный многошаговый процесс управления;

2. целевая функция (выигрыш) является аддитивной и равна сумме целевых функций каждого шага: ;

3. выбор управления x_k на каждом шаге зависит только от состояния системы k этому шагу S_k-1, и не влияет на предшествующие шаги (нет обратной связи);

4. состояние системы S_k после каждого шага управления зависит только от предшествующего состояния системы S_k-1 и этого управляющего воздействия x_h (отсутствие последействия) и может быть записано в виде уравнения состояния: S_k = f_k(S_k-1 , x_k), k = 1,…, n;

5. на каждом шаге управление x_k зависит от конечного числа управляющих переменных, а состояние системы зависит S_k – от конечного числа параметров;

6. оптимальное управление представляет собой вектор , определяемый последовательностью оптимальных пошаговых управлений: , число которых и определяет количество шагов задачи.