马尔可夫提出马尔科夫链之后,用矩阵来表示一个系统的变化,这是连续时间参数马尔可夫链理论。
其中的每一个量都是每一个参数从一个状态到另一个状态的概率。
所以这个柯尔莫哥洛夫开始研究这个方程随时间变化后,自己想要的哪个状态参数的量。
马尔可夫说:“从我的这个系统方程里,最有趣的就是那种状态才会发生,而那种状态永远都不会出现。”
柯尔莫哥洛夫说:“需要推到哪个是随时间变化而变化的,哪个是随时间变化都不会变的。”
马尔可夫说:“然后再去研究哪个是随时间概率会加强的,哪个是随时间概率会减弱的。哪个是随时间改变毫无规律而变化的甚至是瞬间变化的。”
马尔可夫链x={xt:t>=0},p(t)=[pij(t)],q=[qij],i,j属于S,当S为有限状态空间。
向前方程p`(t)=p(t)q。
向后方程p`(t)=qp(t)。