马尔可夫链

维基百科，自由的百科全书

马尔可夫链，因安德烈·马尔可夫得名，是数学中具有马尔可夫性质的离散时间随机过程。该过程中，在给定当前知识或信息的情况下，只有当前的状态用来预测将来，过去（即当前以前的历史状态）对于预测将来（即当前以后的未来状态）是无关的。

马尔可夫链是随机变量 $X 1, X 2, X 3 ...$ 的一个数列。这些变量的范围，即他们所有可能取值的集合，被称为“状态空间”，而 $X n$ 的值则是在时间 $n$ 的状态。如果 $X n + 1$ 对于过去状态的条件概率分布仅是 $X n$ 的一个函数，则

$P(X_{n+1}=x|X_0, X_1, X_2, \ldots, X_n) = P(X_{n+1}=x|X_n). \,$

这里 $x$ 为过程中的某个状态。上面这个恒等式可以被看作是马尔可夫性质。

马尔可夫在1906年首先做出了这类过程。而将此一般化到可数无限状态空间是由柯尔莫果洛夫在1936年给出的。

马尔可夫链与布朗运动以及遍历假说这两个二十世纪初期物理学重要课题是相联系的，但马尔可夫寻求的似乎不仅于数学动机，名义上是对于纵属事件大数法则的扩张。

[编辑] 性质

马尔可夫链是由一个条件分布来表示的

$P(X_{n+1}| X_n)\,$

这被称为是随机过程中的“转移概率”。这有时也被称作是“一步转移概率”。二、三，以及更多步的转移概率可以导自一步转移概率和马尔可夫性质：

$P(X_{n+2}|X_n) = \int P(X_{n+2},X_{n+1}|X_n)\,dX_{n+1} = \int P(X_{n+2}|X_{n+1}) \, P(X_{n+1}|X_n) \, dX_{n+1}$

同样，

$P(X_{n+3}|X_n) = \int P(X_{n+3}|X_{n+2}) \int P(X_{n+2}|X_{n+1}) \, P(X_{n+1}|X_n) \, dX_{n+1} \, dX_{n+2}$

这些式子可以通过乘以转移概率并求 $k - 1$ 次积分来一般化到任意的将来时间 $n + k$ 。

边际分布 $P (X n)$ 是在时间为 $n$ 时的状态的分布。初始分布为 $P (X 0)$ 。该过程的变化可以用以下的一个时间步幅来描述：

$P(X_{n+1}) = \int P(X_{n+1}|X_n)\,P(X_n)\,dX_n$

这是Frobenius-Perron equation的一个版本。这时可能存在一个或多个状态分布 $π$ 满足

$\pi(X) = \int P(X|Y)\,\pi(Y)\,dY$

其中 $Y$ 只是为了便于对变量积分的一个名义。这样的分布 $π$ 被称作是“平稳分布”（Stationary Distribution）或者“稳态分布”（Steady-state Distribution）。一个平稳分布是一个对应于特征根为 $1$ 的条件分布函数的特征方程。

平稳分布是否存在，以及如果存在是否唯一，这是由过程的特定性质决定的。“不可约”是指每一个状态都可来自任意的其它状态。当存在至少一个状态经过一个固定的时间段后连续返回，则这个过程被称为是“周期的”。

[编辑] 离散状态空间中的马尔可夫链

如果状态空间是有限的，则转移概率分布可以表示为一个具有 $(i, j)$ 元素的矩阵，称之为“转移矩阵”：

$P_{ij} = P(X_{n+1}=i\mid X_n=j) \,$

对于一个离散状态空间， $k$ 步转移概率的积分即为求和，可以对转移矩阵求 $k$ 次幂来求得。就是说，如果 $\mathbf{P}$ 是一步转移矩阵， $\mathbf{P}^k$ 就是 $k$ 步转移后的转移矩阵。

平稳分布是一个满足以下方程的向量

$\mathbf{P}\pi^* = \pi^*$ .

在此情况下，稳态分布 $π *$ 是一个对应于特征根为 $1$ 的、该转移矩阵的特征向量。

如果转移矩阵 $\mathbf{P}$ 不可约，并且是非周期的，则 $\mathbf{P}^k$ 收敛到一个每一列都是不同的平稳分布 $π *$ ，并且，

$\lim_{k\rightarrow\infty}\mathbf{P}^k\pi=\pi^*$ ,

独立于初始分布 $π$ 。这是由Perron-Frobenius theorem所指出的。

正的转移矩阵（即矩阵的每一个元素都是正的）是不可约和非周期的。矩阵被称为是一个随机矩阵，当且仅当这是某个马尔可夫链中转移概率的矩阵。

注意：在上面的定式化中，元素 $(i, j)$ 是由j转移到i的概率。有时候一个由元素 $(i, j)$ 给出的等价的定式化等于由i转移到j的概率。在此情况下，转移矩阵仅是这里所给出的转移矩阵的转置。另外，一个系统的平稳分布是由该转移矩阵的左特征向量给出的，而不是右特征向量。

转移概率独立于过去的特殊况为熟知的Bernoulli scheme。仅有两个可能状态的Bernoulli scheme被熟知为贝努利过程

[编辑] 科学应用

马尔可夫链通常用来建模排队理论和统计学中的建模，还可作为信号模型用于熵编码技术，如算法编码。马尔可夫链也有众多的生物学应用，特别是人口过程，可以帮助模拟生物人口过程的建模。隐蔽马尔可夫模型还被用于生物信息学，用以编码区域或基因预测。

马尔可夫链最近的应用是在地理统计学（geostatistics）中。其中，马尔可夫链用在基于观察数据的二到三维离散变量的随机模拟。这一应用类似于“克里金”地理统计学（Kriging geostatistics），被称为是“马尔可夫链地理统计学”。这一马尔可夫链地理统计学方法仍在发展过程中。

[编辑] 马尔可夫模仿文本生成器

马尔可夫过程能为给定样品文本生成粗略但看似真实的文本：他们被用于众多供消遣的“模仿生成器”软件。马尔可夫链还被用于谱曲。

[编辑] 参考文献

A.A. Markov. "Rasprostranenie zakona bol'shih chisel na velichiny, zavisyaschie drug ot druga". Izvestiya Fiziko-matematicheskogo obschestva pri Kazanskom universitete, 2-ya seriya, tom 15, pp 135-156, 1906.

A.A. Markov. "Extension of the limit theorems of probability theory to a sum of variables connected in a chain". reprinted in Appendix B of: R. Howard. Dynamic Probabilistic Systems, volume 1: Markov Chains. John Wiley and Sons, 1971.

Leo Breiman. Probability. Original edition published by Addison-Wesley, 1968; reprinted by Society for Industrial and Applied Mathematics, 1992. ISBN 0-89871-296-3. (See Chapter 7.)

J.L. Doob. Stochastic Processes. New York: John Wiley and Sons, 1953. ISBN 0-471-52369-0.

[编辑] 外部鏈接

免费的《概率论入门》书中有关马尔可夫链的章节

生成文本 (有关使用马尔可夫链产生随机文本)

世界上最大的矩阵计算 (Google's PageRank as the stationary distribution of a random walk through the Web.)
Disassociated Press in Emacs approximates a Markov process

[1] Markov chains used to produce semi-coherent English.

有关马尔可夫链的资源列表

分类: 概率论 | 随机过程