5.1. Теория марковских цепей

 

     На земле Оз никогда не бывает двух ясных дней подряд. Если сегодня ясно, то завтра с вероятностью 1/2 будет лить дождь, либо идти снег. Если сегодня снег (или дождь), то с вероятностью 1/2 погода не изменится. Если она все же меняется, то в 1/2 случаев снег заменится дождем или наоборот и в 1/2 случаев на следующий день будет ясная погода. Определите вероятность ясной погоды на 3-й день, если сегодня дождь.

Математическая теория таких процессов была рассмотрена в 1907 году Марковым и получила название теории марковских цепей. В общем случае она формулируется так: пусть система может находиться в множестве различных состояний {S1, S2,…,Sn}. В каждый момент времени она находится в одном из таких состояний. С течением времени система может переходить в другие состояния. Вероятность того, что система переходит из состояния Si в состояние Sj  зависит только от состояния Si и определена матрицей переходов P, в которой pij - есть вероятность перехода из i-го состояния в j-е. Также задано некое исходное состояние или вектор вероятностей его реализации. Это и есть марковская цепь. Запишем матрицу переходов для погоды на земле Оз.

 

Дождь

Ясно

Снег

Дождь

1/2

1/4

¼

Ясно

1/2

0

½

Снег

1/4

1/4

½

Матрицу переходов можно изобразить графически (рис. 13).

 

Рис. 13. Графическое представление матрицы переходов

 

     В теории марковских цепей показано, что вероятность того, что система через n шагов перейдет в состояние aj  из состояния ai определяется матрицей перехода P0 n

P(n)(aj)=P[fn=aj]=Pj(n)  (30)

 В случае ,если p-вектор-строка, компоненты которого задают вероятности пребывания в соответствующих состояниях в данный момент, то pP задает эти вероятности на следующем шаге, а pPn-через n шагов.

Тогда ответ на поставленный выше вопрос дается матрицей

 

 

Дождь

Ясно

Снег

 

Дождь

26/64

13/64

25/64

Р03 =

Ясно

13/32

6/32

13/32

 

Снег

25/64

13/64

26/64

 

 

 

 

 

Из нее видно, что вероятность хорошей погоды через 3 дня после дождя равна 13/64. Для получения степеней матрицы Р можно использовать Mathcad.

 

Задачи на самостоятельную работу

 

  1. Эскадрилья истребителей имеет 4 самолета и получает боевое задание один раз в день утром. Если к концу дня число самолетов из-за потерь уменьшается до 0, 1, 2 самолетов, то она получает из резерва 1 самолет ночью. На следующий день, если в наличии 3 или 4 самолета, то задание дается, иначе - отменяется. Каждый самолет может быть выведен из строя с вероятностью р. Если на задание посылается n самолетов, то вероятность того, что k из них будут выведены из строя, задается биномиальным распределением

(n!/(k!(n-k)!)*pkqn-k ,   (31)

где q=1-p.

Матрица вероятностей переходов имеет вид

 

 

1

2

3

4

 

1

0

1

0

0

Р=

2

0

0

1

0

 

3

p3

3p2q

3pq2+q3

0

 

4

p4

4p3q

6p2q2+4pq3

q4

Первая строка матрицы относится к случаю, когда в момент i имеется 1 самолетов, тогда в момент i+1 будет 2 самолета, так как ночью будет получено пополнение 1 самолет и не будет вылета. 2 строка- 2 самолета в момент i, нет вылета и 3 самолета в момент i+1. Третья строка - в момент i имеется 3 самолета, будет вылет, вероятность того, что в момент i+1 будет 1 самолет соответствует случаю, что все 3 самолета будут сбиты, т.е. p31=p3. Вероятность того, что к моменту i+1 будет 2 самолета, соответствует тому, что один самолет вернулся, т.е. p32=3p2q. Вероятность того, что в момент i+1 будет 3 самолета равна сумме вероятностей того, что вернулись 2 или 3 самолета, т.е. p33=3pq2+q3. Аналогичные рассуждения применяются и для четвертой строки. При рассуждениях имеется в виду тот факт, что число самолетов определяется утром после возможного пополнения по схеме

Вылет на задание или отдых

Пополнение

вылет на задание или отдых

Пополнение

вылет на задание или отдых

 

Момент i->

 

момент i+1->

 

Постройте график, представляющий матрицу переходов в этом случае.

  2.В каждом заезде на скачках определенная лошадь выигрывает заезд с вероятностью 2/5, делит первое и второе место с вероятностью 1/5 и проигрывает с вероятностью 2/5 независимо от исхода любого предыдущего заезда. Постройте матрицы Р, Р2 и Р3.

  3. 80% сыновей выпускников Гарвардского университета поступают в Гарвард, остальные в Иелл, 40% выпускников Иеллского университета поступают в Иелл, остальные разделяются поровну между Гарвардом и Дортмунд и, наконец, 70% сыновей выпускников Дормундского университета поступают в Дортмунд, 20% в Гарвард и 10% в Иелл. Постройте матрицу Р. Определите вероятность, с которой внук выпускника Гарвардского университета поступает в Гарвард.

  4. Рассмотрим процесс наследования признаков, когда признак определяется одной парой генов типа G и g. Каждый индивид может иметь генные признаки типа GG, gg, Gg. Для типов Gg и gG говорят, что ген G доминирует над геном g. Тип GG называется доминантным, gg называется рецессивным, Gg называется гибридным. При скрещивании от потомков выбираются по одному гену случайным образом. Тогда GG+GG=GG, gg+gg=gg, GG+gg=Gg. При скрещивании типов GG+Gg от первого и от второго берется G  с вероятностью 1/2 и g  с вероятностью 1/2. Поэтому GG+Gg=1/2GG+1/2Gg. Аналогично gg+Gg=1/2Gg+1/2gg. Для Gg+Gg  потомство с вероятностью 1/2 получает гены каждого типа от каждого из родителей, поэтому Gg+Gg=1/4GG+1/2Gg+1/2gg. Определите матрицу Р для скрещивания индивидуума с неизвестными генными признаками и гибридным. Определите матрицы Р, Р2, Р3, если начинаем с гибрида.