W 2 (S1(1) | x2(2))= (5 +3) 0,5 +(4 +8) 0,5 =10,0; W 2 (S1(1) | x2(3))= (5 +3) 0,6 +(4 +8) 0,4 = 9,6;
W 2 (S1(1))= min{W 2 (S1(1) | x2 )}=W 2 (S1(1) | x2(3))= 9,6. x2
Аналогично можно найти W 2 (S1(2) )=10,5 и W 2 (S1(3))=8,2 . Далее оптимизируем 1-й шаг. Для него x1 {x1(1), x1(2), x1(3)}и
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3 |
|
(w1( j) + |
|
2 (S1( j)))P(S1( j) | S0, x1); |
||||||||||
|
W |
(S0 | x1)= ∑ |
W |
|||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
j=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
(S |
|
| x(1) )= (2 +9,6) 0,6 +(4 +10,5) 0,4 =12,8; |
||||||||||||||||
|
|
|
W |
0 |
||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
(S |
|
| x(2) )= |
(2 +9,6) 1 =11,6 ; |
|
|
||||||||||||||
|
|
|
W |
0 |
|
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
(S |
|
|
| x(3))= (2 +9,6) 0,3+(4 +10,5) 0,3+(3+8,2) 0,4 =12,3; |
||||||||||||||||||
|
|
|
W |
0 |
||||||||||||||||||||||||
1 |
|
|
|
0 |
|
1 |
|
1 ( |
|
0 1)} |
1 ( |
|
0 1 |
) |
|
|||||||||||||
|
|
|
|
|
|
{ |
|
|
|
|||||||||||||||||||
|
|
W |
|
(S |
|
|
|
)= min |
W |
|
S |
|
x |
=W |
S |
|
x(2) |
|
=11,6. |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Результат условной оптимизации показан на рис. 2.12. В кружках проставлены значения условных минимумов Wi (Si−1 ). Из рисунка видно, что
оптимальное управление на 1-м шаге равно x( |
2). Оно детерминированно пе- |
||
|
1 |
|
|
реводит систему в S(1) , где наилучшее управление заключается в примене- |
|||
1 |
|
|
|
нии x(3) . При этом система переходит в |
S(1) |
или в |
S(2) с вероятностями, |
2 |
2 |
|
2 |
равными 0,6 и 0,4 соответственно. |
|
|
|
Если переход осуществлен в S(1) , то дальше надо применять x(1) , если |
|||
2 |
|
|
3 |
же в S(2), то оптимальное шаговое управление здесь |
x(2). В обоих случаях |
||
2 |
|
|
3 |
51
|
|
|
S(1) |
|
|
|
S(1) |
|
|
|
|
1 |
0,6 |
|
|
2 |
|
|
|
|
9,6 |
|
|
3,0 |
|
|
|
|
|
|
|
|
|
||
1 |
|
|
x2(3) |
0,5 |
|
|
x3(1) |
1 |
S0 |
|
|
S1(2) |
|
0,6 |
|
S3 |
|
|
|
|
|
|
|
|||
11,6 |
|
|
10,5 |
|
0,4 |
|
|
|
x(2) |
|
|
x2(4) |
|
|
|
|
|
|
|
|
|
|
|
|
||
1 |
|
|
|
|
|
|
|
|
|
|
|
S1(3) |
0,5 |
|
|
S2(2) |
1 |
x(7) |
8,2 |
|
|
|
8,0 |
x(2) |
||
0,4 |
|
|
||||||
|
|
|
|
|||||
|
2 |
|
|
|
|
|
3 |
|
|
|
|
|
Рис. 2.12 |
|
|
|
|
система переходит в S |
3 |
. Состояния S( |
2) |
и |
S(3) |
остаются незадействован- |
||
|
|
|
1 |
|
|
1 |
|
|
ными. Минимальное среднее время перехода из |
S0 в S3 составляет 11,6 |
|||||||
единиц времени.
Пример 2.4. В течение ближайших трех дней больному необходимо сделать срочную операцию. Для уменьшения риска неблагоприятного исхода желательно, чтобы состояние больного непосредственно перед операцией было наилучшим. С помощью медицинских обследований состояние больного оценивают по трехбалльной шкале, причем оценка 1 соответствует наихудшему состоянию S1, 2 – промежуточному S2 , 3 – наилучшему S3 . Надо рассчитать оптимальную стратегию врача (т. е. в какой из трех дней лучше всего делать операцию), если вероятности наступления состояний S1, S2 и S3 в любой день не зависят от состояния больного в предыдущий день и равны
p1 = P (S1 )= 0,3; p2 = P (S2 )= 0,5; p3 = P (S3 )= 0,2 .
Для решения этой задачи составим дерево альтернатив, изображенное на рис. 2.13. Пусть zi – оценка состояния больного, а xi – принимаемое решение в i -й день. Тогда после измерения состояния больного в 1-й день (Изм1), если z1 = 3, то x1 =
Оп
, т. е. принимается решение оперировать; если z1 =1, то x1 =
Жд
– ждать следующего дня, а если z1 = 2 , то возникает неопределенность (может быть принято как одно, так и другое решение). Аналогичная
52
ситуация возникает и на второй день после процедуры Изм2, если в 1-й день принято решение
Жд
. Таким образом, задача заключается в выработке ре-
комендаций о принятии оптимальных решений, если в 1-й или во 2-й день состояние больного будет оценено как 2.
В качестве критерия оптимальности (целевой функции) будем использовать среднеожидаемую оценку состояния оперируемого больного, которую
необходимо максимизировать. Пусть wi( j) – значение целевой функции на i -й день при zi = j . Допустим, больного решили оперировать лишь на 3-й
день. В этом случае среднеожидаемая оценка состояния больного перед операцией будет равна (рис. 2.14)
w3 = w3(1) p1 + w3(2) p2 + w3(3) p3 =1 0,3 +2 0,5 +3 0,2 =1,9 .
53
|
|
|
|
|
|
3 w1(3) |
|
|
|
|
Оп |
3 w2(3) |
||
|
|
|
|
|
Оп |
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
p3 |
z1 |
= 3 |
|
|
|
p3 |
|
z2 |
= 3 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|||||
|
p1 |
|
|
Жд |
|
|
p1 |
|
|
Жд |
|
|
||
Изм1 |
z1 |
=1 |
Изм2 |
|
z2 |
=1 |
Изм3 |
|
||||||
|
|
Жд |
|
|
|
Жд |
|
|||||||
|
|
|
|
|
|
|||||||||
|
p2 |
|
|
|
|
p2 |
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
z1 |
= 2 |
|
|
|
|
|
z2 |
= 2 |
|
|
|
|
|
|
|
|
Оп |
|
|
|
|
Оп |
|
|
||
|
|
|
|
|
|
2 w1(2) |
|
|
|
|
|
2 w2(2) |
||
|
|
|
|
|
|
|
|
|
|
Рис. 2.13 |
|
|
||
3 w3(3)
Оп 
z3 = 3 p3 
p1 |
|
|
Оп |
w3(1) |
|
z3 |
=1 |
||||
|
1 |
||||
|
|
|
|
|
p2
z3 = 2
Оп
2 w3(2)
54
Этот результат показывает, что если на |
|
|
|
|
|
|
|
|
p3 |
3 |
w3(3) |
|||||||||||||||||
2-й день мы получили z2 = 2, |
то (так как это |
|
|
|
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||
больше, чем 1,9) наилучшим будет решение |
|
|
|
|
|
|
|
p1 |
|
1 |
w(1) |
|||||||||||||||||
|
|
|
Изм3 |
|
|
|||||||||||||||||||||||
x2 = Оп , и для втор ого дня дерево альтер- |
|
|
|
|
|
|
|
|
|
|
|
|
3 |
|||||||||||||||
|
|
|
|
=1,9 |
|
|
|
|
|
|
|
|||||||||||||||||
натив представляется в виде рис. 2.15. Из ри- |
|
|
|
w3 |
|
|
p2 |
2 |
w3(2) |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
сунка видно, что w(1) = |
|
|
. Рассуждая анало- |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
w |
|
|
|
|
|
Рис. 2.14 |
|
|
||||||||||||||||||||
|
|
|
|
2 |
3 |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
гично, среднеожидаемая оценка состояния |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
больного на 2-й день |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
= w(1) p + w(2) p + w(3) p =1,9 0,3 +2 0,5 +3 0,2 = 2,17 . |
|
|
||||||||||||||||||||||||
|
w |
|
|
|||||||||||||||||||||||||
2 |
2 |
1 |
2 |
|
2 |
2 |
3 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
p3 |
|
|
|
Оп |
3 |
|
w(3) |
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
z = 3 |
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
p1 |
|
|
|
Жд |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Изм2 |
|
|
|
|
|
z2 = 1 |
1,9 |
w(1) |
= |
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
w |
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
p2 |
|
|
|
|
|
|
|
|
|
|
2 |
|
3 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
w2 = 2,17 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
z2 = 2 |
Оп |
2 |
|
w2(2) |
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
Рис. 2.15 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Это больше, чем 2, поэтому, если в 1-й день будет z1 = 2 , то оптималь-
ным решением будет воздержаться от операции в надежде на улучшение состояния больного в оставшиеся два дня, и дерево альтернатив для первого
дня приобретает вид рис. 2.16. Из этого рисунка видно, что w1(1) = w1(2) = w2 . Наконец, среднеожидаемая оценка состояния больного в 1-й день
w1 = w1(1)p1 + w1(2)p2 + w1(3)p3 = 2,17 0,3+2,17 0,5 +3 0,2 = 2,336.
|
|
|
|
|
|
|
Оп |
3 |
w1(3) |
||||
|
|
|
p3 |
z1 = 3 |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
p1 |
|
|
Жд |
|
|
|
|
|
|
|
|
Изм |
z1 |
=1 |
2,17 |
|
|
|
|
|||||
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
||||||
1 |
|
|
|
|
Жд ( |
|
|
|
|
|
|
||
|
|
= 2,3 |
|
|
|
|
|
|
|
|
|
|
|
w |
|
|
|
|
) |
( |
2 |
) |
|
|
|||
|
|
|
|
|
= w |
||||||||
1 |
|
|
|
|
w 1 |
= w |
|
||||||
|
|
|
p2 |
|
|
1 |
|
1 |
|
|
2 |
||
|
|
|
z1 |
= 2 |
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
||
Рис. 2.16
55