Материал: Учебное пособие Немирко Манило

Внимание! Если размещение файла нарушает Ваши авторские права, то обязательно сообщите нам

W 2 (S1(1) | x2(2))= (5 +3) 0,5 +(4 +8) 0,5 =10,0; W 2 (S1(1) | x2(3))= (5 +3) 0,6 +(4 +8) 0,4 = 9,6;

W 2 (S1(1))= min{W 2 (S1(1) | x2 )}=W 2 (S1(1) | x2(3))= 9,6. x2

Аналогично можно найти W 2 (S1(2) )=10,5 и W 2 (S1(3))=8,2 . Далее оптимизируем 1-й шаг. Для него x1 {x1(1), x1(2), x1(3)}и

 

 

 

 

 

 

 

 

 

 

 

 

 

 

3

 

(w1( j) +

 

2 (S1( j)))P(S1( j) | S0, x1);

 

W

(S0 | x1)= ∑

W

 

 

 

 

 

 

 

 

 

 

 

 

 

 

j=1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

(S

 

| x(1) )= (2 +9,6) 0,6 +(4 +10,5) 0,4 =12,8;

 

 

 

W

0

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

(S

 

| x(2) )=

(2 +9,6) 1 =11,6 ;

 

 

 

 

 

W

0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

(S

 

 

| x(3))= (2 +9,6) 0,3+(4 +10,5) 0,3+(3+8,2) 0,4 =12,3;

 

 

 

W

0

1

 

 

 

0

 

1

 

1 (

 

0 1)}

1 (

 

0 1

)

 

 

 

 

 

 

 

{

 

 

 

 

 

W

 

(S

 

 

 

)= min

W

 

S

 

x

=W

S

 

x(2)

 

=11,6.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

x1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Результат условной оптимизации показан на рис. 2.12. В кружках проставлены значения условных минимумов Wi (Si−1 ). Из рисунка видно, что

оптимальное управление на 1-м шаге равно x(

2). Оно детерминированно пе-

 

1

 

 

реводит систему в S(1) , где наилучшее управление заключается в примене-

1

 

 

 

нии x(3) . При этом система переходит в

S(1)

или в

S(2) с вероятностями,

2

2

 

2

равными 0,6 и 0,4 соответственно.

 

 

 

Если переход осуществлен в S(1) , то дальше надо применять x(1) , если

2

 

 

3

же в S(2), то оптимальное шаговое управление здесь

x(2). В обоих случаях

2

 

 

3

51

 

 

 

S(1)

 

 

 

S(1)

 

 

 

 

1

0,6

 

 

2

 

 

 

 

9,6

 

 

3,0

 

 

 

 

 

 

 

 

1

 

 

x2(3)

0,5

 

 

x3(1)

1

S0

 

 

S1(2)

 

0,6

 

S3

 

 

 

 

 

 

11,6

 

 

10,5

 

0,4

 

 

 

x(2)

 

 

x2(4)

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

S1(3)

0,5

 

 

S2(2)

1

x(7)

8,2

 

 

 

8,0

x(2)

0,4

 

 

 

 

 

 

 

2

 

 

 

 

 

3

 

 

 

 

Рис. 2.12

 

 

 

система переходит в S

3

. Состояния S(

2)

и

S(3)

остаются незадействован-

 

 

 

1

 

 

1

 

ными. Минимальное среднее время перехода из

S0 в S3 составляет 11,6

единиц времени.

Пример 2.4. В течение ближайших трех дней больному необходимо сделать срочную операцию. Для уменьшения риска неблагоприятного исхода желательно, чтобы состояние больного непосредственно перед операцией было наилучшим. С помощью медицинских обследований состояние больного оценивают по трехбалльной шкале, причем оценка 1 соответствует наихудшему состоянию S1, 2 – промежуточному S2 , 3 – наилучшему S3 . Надо рассчитать оптимальную стратегию врача (т. е. в какой из трех дней лучше всего делать операцию), если вероятности наступления состояний S1, S2 и S3 в любой день не зависят от состояния больного в предыдущий день и равны

p1 = P (S1 )= 0,3; p2 = P (S2 )= 0,5; p3 = P (S3 )= 0,2 .

Для решения этой задачи составим дерево альтернатив, изображенное на рис. 2.13. Пусть zi – оценка состояния больного, а xi – принимаемое решение в i -й день. Тогда после измерения состояния больного в 1-й день (Изм1), если z1 = 3, то x1 = Оп, т. е. принимается решение оперировать; если z1 =1, то x1 = Жд – ждать следующего дня, а если z1 = 2 , то возникает неопределенность (может быть принято как одно, так и другое решение). Аналогичная

52

ситуация возникает и на второй день после процедуры Изм2, если в 1-й день принято решение Жд. Таким образом, задача заключается в выработке ре-

комендаций о принятии оптимальных решений, если в 1-й или во 2-й день состояние больного будет оценено как 2.

В качестве критерия оптимальности (целевой функции) будем использовать среднеожидаемую оценку состояния оперируемого больного, которую

необходимо максимизировать. Пусть wi( j) – значение целевой функции на i -й день при zi = j . Допустим, больного решили оперировать лишь на 3-й

день. В этом случае среднеожидаемая оценка состояния больного перед операцией будет равна (рис. 2.14)

w3 = w3(1) p1 + w3(2) p2 + w3(3) p3 =1 0,3 +2 0,5 +3 0,2 =1,9 .

53

 

 

 

 

 

 

3 w1(3)

 

 

 

 

Оп

3 w2(3)

 

 

 

 

 

Оп

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

p3

z1

= 3

 

 

 

p3

 

z2

= 3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

p1

 

 

Жд

 

 

p1

 

 

Жд

 

 

Изм1

z1

=1

Изм2

 

z2

=1

Изм3

 

 

 

Жд

 

 

 

Жд

 

 

 

 

 

 

 

 

p2

 

 

 

 

p2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

z1

= 2

 

 

 

 

 

z2

= 2

 

 

 

 

 

 

 

 

Оп

 

 

 

 

Оп

 

 

 

 

 

 

 

 

2 w1(2)

 

 

 

 

 

2 w2(2)

 

 

 

 

 

 

 

 

 

 

Рис. 2.13

 

 

3 w3(3)

Оп

z3 = 3 p3

p1

 

 

Оп

w3(1)

z3

=1

 

1

 

 

 

 

 

p2

z3 = 2

Оп

2 w3(2)

54

Этот результат показывает, что если на

 

 

 

 

 

 

 

 

p3

3

w3(3)

2-й день мы получили z2 = 2,

то (так как это

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

больше, чем 1,9) наилучшим будет решение

 

 

 

 

 

 

 

p1

 

1

w(1)

 

 

 

Изм3

 

 

x2 = Оп , и для втор ого дня дерево альтер-

 

 

 

 

 

 

 

 

 

 

 

 

3

 

 

 

 

=1,9

 

 

 

 

 

 

 

натив представляется в виде рис. 2.15. Из ри-

 

 

 

w3

 

 

p2

2

w3(2)

 

 

 

 

 

 

 

 

 

 

 

сунка видно, что w(1) =

 

 

. Рассуждая анало-

 

 

 

 

 

 

 

 

 

 

 

 

 

w

 

 

 

 

 

Рис. 2.14

 

 

 

 

 

 

2

3

 

 

 

 

 

 

 

 

 

 

 

 

гично, среднеожидаемая оценка состояния

 

 

 

 

 

 

 

 

 

 

 

 

 

больного на 2-й день

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

= w(1) p + w(2) p + w(3) p =1,9 0,3 +2 0,5 +3 0,2 = 2,17 .

 

 

 

w

 

 

2

2

1

2

 

2

2

3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

p3

 

 

 

Оп

3

 

w(3)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

z = 3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

p1

 

 

 

Жд

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Изм2

 

 

 

 

 

z2 = 1

1,9

w(1)

=

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

w

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

p2

 

 

 

 

 

 

 

 

 

 

2

 

3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

w2 = 2,17

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

z2 = 2

Оп

2

 

w2(2)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Рис. 2.15

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Это больше, чем 2, поэтому, если в 1-й день будет z1 = 2 , то оптималь-

ным решением будет воздержаться от операции в надежде на улучшение состояния больного в оставшиеся два дня, и дерево альтернатив для первого

дня приобретает вид рис. 2.16. Из этого рисунка видно, что w1(1) = w1(2) = w2 . Наконец, среднеожидаемая оценка состояния больного в 1-й день

w1 = w1(1)p1 + w1(2)p2 + w1(3)p3 = 2,17 0,3+2,17 0,5 +3 0,2 = 2,336.

 

 

 

 

 

 

 

Оп

3

w1(3)

 

 

 

p3

z1 = 3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

p1

 

 

Жд

 

 

 

 

 

 

 

Изм

z1

=1

2,17

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

Жд (

 

 

 

 

 

 

 

 

= 2,3

 

 

 

 

 

 

 

 

 

 

w

 

 

 

 

)

(

2

)

 

 

 

 

 

 

 

= w

1

 

 

 

 

w 1

= w

 

 

 

 

p2

 

 

1

 

1

 

 

2

 

 

 

z1

= 2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Рис. 2.16

55

Источник: https://studfile.net/preview/14965028/