Основные понятия Марковских процессов

Оглавление:

1. Основные понятия Марковских процессов.

2. Классификация Марковских процессов.

3. Граф состояний.

4. Марковские цепи.

  4.1 Примеры.

5. Непрерывные цепи Маркова.

6. Финальные вероятности состояний.

  6.1 Примеры 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Основные  понятия Марковских процессов. 

Функция X(t) называется случайной, если ее значение при любом аргументе t является случайной величиной.

Случайная функция  X(t), аргументом которой является время, называется случайным процессом.

Марковские процессы являются частным видом случайных процессов.

Случайный процесс, протекающий в какой-либо системе S, называется марковским (или процессом без последействия), если он обладает следующим свойством: для любого момента времени вероятность любого состояния системы в будущем (при ) зависит,только от ее состояния в настоящем (при ) и не зависит от того, когда и каким образом система S пришла в это состояние. 
 
 
 
 
 
 
 
 
 
 
 
 
 

Классификация Марковских процессов

Классификация марковских случайных процессов производится в зависимости от непрерывности или дискретности множества значений функции X(t) и параметра t.

Различают следующие  основные виды марковских случайных процессов:

1. C дискретными состояниями и дискретным временем (цепь Маркова).
2. С непрерывными состояниями и дискретным временем (марковские последовательности).
3. С дискретными состояниями и непрерывным временем (непрерывная цепь Маркова).
4. С непрерывным состоянием и непрерывным временем.

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Граф  состояний.

Марковские процессы с дискретными состояниями удобно иллюстрировать с помощью так называемого графа состояний), где кружками обозначены состояния S1, S2, ... системы S, а стрелками — возможные переходы из состояния в состояние.

На графе отмечаются только непосредственные переходы, а  не переходы через другие состояния. Возможные задержки в прежнем состоянии изображают «петлей», т. е. стрелкой, направленной из данного состояния в него же. Число состояний системы может быть как конечным, так и бесконечным (но счетным). 
 
 
 
 
 
 
 
 

Марковские  цепи.

Марковский случайный  процесс с дискретными состояниями  и дискретным временем называют марковской цепью.

Для такого процесса моменты когда система S может менять свое состояние, рассматривают как последовательные шаги процесса, а в качестве аргумента, от которого зависит процесс, выступает не время а номер шага 1, 2, …, k, ... Случайный процесс в этом случае характеризуется последовательностью состояний S(0), S(1), S(2), …, S(k), … где S(0) — начальное состояние системы (перед первым шагом); S(1) - состояние системы после первого шага; S(k) - состояние системы после K-го шага...

Событие , состоящее в том, что сразу после k-то шага система находится в состоянии , является случайным событием. Последовательность состояний S(0), S(1), …, S(k), ... можно рассматривать как последовательность случайных событий. Такая случайная последовательность событий называется марковской цепью, если для каждого шага вероятность перехода из любого состояния в любое не зависит от того, когда и как система пришла в состояние . Начальное-состояние S(0) может быть заданным заранее или случайным.

Вероятностями состояний  цепи Маркова называются вероятности того, что после k-то шага (и до (k + 1)-го) система S будет находиться в состоянии .

Очевидно, для любого k

Начальным распределением вероятностей марковской цепи называется распределение вероятностей состояний в начале процесса:

В частном случае, если начальное состояние системы S в точности известно , то начальная вероятность , а все остальные равны нулю.

Вероятностью перехода (переходной вероятностью) на k-м шаге из состояния в состояние называется условная вероятность того, что система S после k-го шага окажется в состоянии при условии, что непосредственно перед этим (после k — 1 шага) она находилась в состоянии .

Поскольку система  может пребывать в одном из состояний, то для каждого момента времени t необходимо задать вероятностей перехода , которые удобно представить в виде следующей матрицы:

где - вероятность перехода за один шаг из состояния в состояние ;

 — вероятность  задержки системы в состоянии  .