本頁使用了標題或全文手工轉換

馬可夫鏈

維基百科,自由的百科全書
前往: 導覽搜尋
一個具有兩個轉換狀態的馬可夫鏈.

馬可夫鏈英語:Markov chain),又稱離散時間馬可夫鏈(discrete-time Markov chain,縮寫為DTMC[1]),因俄國數學家安德烈·馬可夫(俄語:Андрей Андреевич Марков)得名,為狀態空間中經過從一個狀態到另一個狀態的轉換的隨機過程。該過程要求具備「無記憶」的性質:下一狀態的機率分布只能由當前狀態決定,在時間序列中它前面的事件均與之無關。這種特定類型的「無記憶性」稱作馬可夫性質。馬爾科夫鏈作為實際過程的統計模型具有許多應用。

在馬可夫鏈的每一步,系統根據機率分布,可以從一個狀態變到另一個狀態,也可以保持當前狀態。狀態的改變叫做轉移,與不同的狀態改變相關的機率叫做轉移機率。隨機漫步就是馬可夫鏈的例子。隨機漫步中每一步的狀態是在圖形中的點,每一步可以移動到任何一個相鄰的點,在這裡移動到每一個點的機率都是相同的(無論之前漫步路徑是如何的)。

介紹[編輯]

馬可夫鏈是滿足馬可夫性質隨機過程

形式化定義[編輯]

馬可夫鏈是滿足馬可夫性質的隨機變量序列X1, X2, X3, ...,即給出當前狀態,將來狀態和過去狀態是相互獨立的。從形式上看,

如果兩邊的條件分布有定義(即如果),則

Xi的可能值構成的可數集S叫做該鏈的「狀態空間」。

通常用一系列有向圖來描述馬可夫鏈,其中圖n的邊用從時刻n的狀態到時刻n+1的狀態的機率來標記。也可以用從時刻n到時刻n+1轉移矩陣表示同樣的信息。但是,馬氏鏈常常被假定為時齊的(見下文的變種),在這種情況下,圖和矩陣與n無關,因此也不表現為序列。

這些描述強調了馬可夫鏈與初始分布無關這一結構。當時齊的時候,可以認為馬氏鏈是分配從一個頂點或狀態跳變到相鄰一個的機率的狀態機。可以把機器狀態的機率作為僅有元素的狀態空間為輸入的機器的統計行為分析,或作為初始分布為狀態為輸入的機器行為,其中艾佛森括號

一些狀態序列可能會有零機率的事件,對應多連通英語Connected component (graph theory)的圖,而我們禁止轉移機率為0的邊。例如,若ab的機率非零,但ax位於圖的不同連通分量,那麼有意義,而無意義。

變種[編輯]

的過程。轉移機率與n無關。
  • m階馬可夫鏈(或記憶為m的馬可夫鏈),其中m有限,為滿足
的過程。換句話說,未來狀態取決於其前m個狀態。It is possible to construct a chain(Yn)from (Xn) which has the 'classical' Markov property by taking as state space the ordered m-tuples of X values, ie. Yn =(Xn, Xn−1, ..., Xnm+1)。

瞬態演變[編輯]

n步從狀態i到狀態j的機率為

而單步轉移是

對於一個時齊馬可夫鏈來說:

而且

n步轉移機率滿足Chapman-Kolmogorov等式,對任意k使得0 < k < n

其中S為此馬可夫鏈的狀態空間。

邊緣分布Pr(Xn = x)為第n次狀態的分布。初始分布為Pr(X0 = x)。用一步轉移把過程演變描述為

注意:上標(n)是索引而非指數

性質[編輯]

可還原性[編輯]

馬可夫鏈是由一個條件分布來表示的

這被稱為是隨機過程中的「轉移機率」。這有時也被稱作是「一步轉移機率」。二、三,以及更多步的轉移機率可以導自一步轉移機率和馬可夫性質:

同樣,

這些式子可以通過乘以轉移機率並求積分來一般化到任意的將來時間

周期性[編輯]

邊緣分布是在時間為時的狀態的分布。初始分布為。該過程的變化可以用以下的一個時間步幅來描述:

這是Frobenius-Perron equation的一個版本。這時可能存在一個或多個狀態分布滿足

其中只是為了便於對變量積分的一個名義。這樣的分布被稱作是「平穩分布」(Stationary Distribution)或者「穩態分布」(Steady-state Distribution)。一個平穩分布是一個對應於特徵值的條件分布函數的特徵方程

平穩分布是否存在,以及如果存在是否唯一,這是由過程的特定性質決定的。「不可約」是指每一個狀態都可來自任意的其它狀態。當存在至少一個狀態經過一個固定的時間段後連續返回,則這個過程被稱為是「周期的」。

重現性[編輯]

各態歷遍性[編輯]

具有重現性而不具有周期性叫做遍歷的。重現性包括局部重現性。

律動性[編輯]

平穩狀態分析和極限分布[編輯]

平穩狀態分析和時齊馬可夫鏈[編輯]

有限狀態空間[編輯]

若狀態空間是有限的,則轉移機率分布可以矩陣表示,該矩陣稱為轉移矩陣,記為P。其中處於的元素等於

由於P的每一行各元素之和為1,且P中所有的元素都是非負的,因此P是一個右隨機矩陣

穩定分布與特徵向量和單體的關係[編輯]

穩定分布π是一個(列)向量,它的元素都非負且和為1,不隨施加P操作而改變,定義為

通過將這個定義與特徵向量進行比較,我們看到,這兩個概念是相關的,並且

是由()歸一化的轉移矩陣P的左特徵向量 e的倍數,其特徵值為1。如果有多個單位特徵向量那麼相應穩態的加權和也是穩態。但對於馬可夫鏈來說,我們更關心的是作為一些對初始分布的序列分布的極限的穩態。

穩定分布的值與狀態空間P有關,它的特徵向量保留各自的相對比例。因為π的成分為正且滿足約束條件,我們發現π與一個成分全為1的向量的點積是統一的,、π位於一個單體上。

有限狀態空間內的時齊馬可夫鏈[編輯]

對於一個離散狀態空間,步轉移機率的積分即為求和,可以對轉移矩陣求次冪來求得。就是說,如果是一步轉移矩陣,就是步轉移後的轉移矩陣。

如果轉移矩陣不可約,並且是非周期的,則收斂到一個每一列都是不同的平穩分布,並且,

,

獨立於初始分布。這是由Perron-Frobenius theorem所指出的。

正的轉移矩陣(即矩陣的每一個元素都是正的)是不可約和非周期的。矩陣被稱為是一個隨機矩陣,若且唯若這是某個馬可夫鏈中轉移機率的矩陣。

注意:在上面的定式化中,元素是由j轉移到i的機率。有時候一個由元素給出的等價的定式化等於由i轉移到j的機率。在此情況下,轉移矩陣僅是這裡所給出的轉移矩陣的轉置。另外,一個系統的平穩分布是由該轉移矩陣(每列的和為1)的右特徵向量給出的,而不是左特徵向量。

轉移機率獨立於過去的特殊況為熟知的Bernoulli scheme。僅有兩個可能狀態的Bernoulli scheme被熟知為伯努利過程

趨向穩定分布的收斂速度[編輯]

可反轉馬可夫鏈[編輯]

可反轉馬可夫鏈類似於應用貝葉斯定理來反轉一個條件機率:

以上就是反轉的馬可夫鏈。因而,如果存在一個π,使得:

那麼這個馬可夫鏈就是可反轉的。

這個條件也被稱為細緻平衡(detailed balance)條件。

對於所有的i求和:

所以,對於可反轉馬可夫鏈,π總是一個平穩分布

伯努利方案[編輯]

伯努利方案是馬可夫鏈的一種特殊情形,其轉移機率矩陣有相同的行,即下一狀態均勻獨立於當前狀態(除了獨立於過往狀態以外)。 僅有兩個可能狀態的伯努利方案是伯努利過程

一般的狀態空間[編輯]

對於一般狀態空間上的馬可夫鏈的概述,詳見文章狀態空間可測的馬可夫鏈

Harris鏈[編輯]

局部交互的馬可夫鏈[編輯]

應用[編輯]

物理[編輯]

馬可夫系統廣泛出現在熱力學和統計力學中,

化學[編輯]

測試[編輯]

語音識別[編輯]

信息科學[編輯]

排隊理論[編輯]

網際網路應用[編輯]

谷歌所使用的網頁排序算法(PageRank)就是由馬可夫鏈定義的。馬可夫模型也被應用於分析用戶瀏覽網頁的行為。一階或者二階的馬可夫模型可以用於對一個用戶從某一網絡連結轉移到另一連結的行為進行建模,然後這些模型可以用於對用戶之後的瀏覽行為進行預測。

統計[編輯]

經濟和金融[編輯]

社會科學[編輯]

生物數學[編輯]

馬可夫鏈也有眾多的生物學應用,特別是增殖過程,可以幫助模擬生物增殖過程的建模。隱蔽馬可夫模型還被用於生物信息學,用以編碼區域或基因預測(見哈代-溫伯格定律。)

遺傳學[編輯]

遊戲[編輯]

音樂[編輯]

棒球[編輯]

馬可夫文本生成器[編輯]

馬可夫過程,能為給定樣品文本,生成粗略,但看似真實的文本:他們被用於眾多供消遣的「模仿生成器」軟體。馬可夫鏈還被用於譜曲

Fitting[編輯]

歷史[編輯]

俄國數學家安德雷·安德耶維齊·馬可夫.

馬可夫在1906年首先做出了這類過程。而將此一般化到可數無限狀態空間是由俄國數學家柯爾莫果洛夫(俄語:Андре́й Никола́евич Колмого́ров)在1936年給出的。馬可夫鏈與布朗運動以及遍歷假說這兩個二十世紀初期物理學重要課題是相聯繫的,但馬可夫尋求的似乎不僅於數學動機,名義上是對於縱屬事件大數法則的擴張。

(隱藏式)隱馬可夫模型[編輯]

參看[編輯]

注釋[編輯]

  1. ^ Norris, James R. Markov chains. Cambridge University Press. 1998. 

參考文獻[編輯]

  • A.A. Markov. "Rasprostranenie zakona bol'shih chisel na velichiny, zavisyaschie drug ot druga". Izvestiya Fiziko-matematicheskogo obschestva pri Kazanskom universitete, 2-ya seriya, tom 15, pp 135-156, 1906.
  • A.A. Markov. "Extension of the limit theorems of probability theory to a sum of variables connected in a chain". reprinted in Appendix B of: R. Howard. Dynamic Probabilistic Systems, volume 1: Markov Chains. John Wiley and Sons, 1971.
  • Leo Breiman. Probability. Original edition published by Addison-Wesley, 1968; reprinted by Society for Industrial and Applied Mathematics, 1992. ISBN 978-0-89871-296-4. (See Chapter 7.)
  • J.L. Doob. Stochastic Processes. New York: John Wiley and Sons, 1953. ISBN 978-0-471-52369-7.

外部連結[編輯]