Рассмотрим систему с дискретными состояниями, в которой
протекает марковский случайный процесс с непрерывным временем. Такую систему
иначе называют непрерывной марковской цепью. Для ее описания нужно составить и
решить систему уравнений для вероятностей состояний, которые называются
уравнениями Колмогорова.
Сейчас мы познакомимся с одной типичной схемой непрерывных марковских цепей, так называемой “схемой гибели и размножения”. Название берет начало от биологических задач, где подобной схемой описывается процесс изменения численности популяции.
Определение: Марковская непрерывная цепь называется процессом “гибели и размножения”, если ее граф состояний можно представить в виде одной цепочки, в которой каждые из средних состояний Q2, Q3, …, Qn-1 связано прямой и обратной связью с каждым из средних состояний, а крайние состояния Q1 и Qn -только с одним состоянием.
Пример: Техническое устройство состоит из трех одинаковых узлов, каждый из которых может отказывать, такой отказавший узел начинает немедленно восстанавливаться. Состояние системы – число неисправных узлов.
Граф
состояний показан на рисунке.
Видно, что протекающий процесс – процесс “гибели и размножения”. Найдем
финальные вероятности для процесса “гибели и размножения”.
Уравнение для финальных вероятностей первого состояния:
l12p1 = l21p2.
Для второго состояния:
l23p2 + l21p2 = l12p1 + l32p3
или с учетом первого уравнения:
l23p2 = l32p3;
далее:
l34p3 = l43p4;
…
…
ln-1,npn-1 = ln,n-1pn.
Необходимо также учитывать условие . Решение (из первого уравнения):
и так далее
Если все эти вероятности подставить в условие нормировки, то найдем
отсюда
Таким образом, найдем предельные вероятности для процесса “гибели и размнож