馬可夫鏈

極限分布與收斂至平衡(limiting distribution and convergence to equilibrium)

讓一條性質良好的鏈跑很久,一件美麗的事就會發生:它忘記了自己從哪裡出發。處於各狀態的機率安頓到一組固定的數,不再依賴起始狀態。這個安頓下來的長期分布就是極限分布 —— 它回答的是「不論今天如何,遙遠的未來鏈大概會在哪裡?」。

精確地說,極限分布是 P^(n)(i, j) 當 n 趨於無窮時的極限,前提是該極限存在且不依賴起點 i。等價地,P^n 的各列都收斂到同一列,而 pi_n = pi_0 乘 P^n 會從任何 pi_0 收斂到它。基本極限定理說:對一條不可約、非週期且正常返的鏈,此極限存在、從每個起始狀態都相同、且等於唯一的平穩分布 pi。三個條件都各司其職 —— 不可約把狀態綁成一個系統,正常返保證平衡存在,非週期阻止鏈永遠振盪。

收斂通常是幾何式的:與平衡的距離大致以第二大特徵值的絕對值的 n 次方縮小。「混合時間」 —— 鏈要多久才夠接近平衡 —— 由那個特徵值間隙決定,這也是你做模擬時最核心的實務關切。極限分布正是 PageRank 會收斂、洗過的牌會變均勻、以及 MCMC 終究會從目標分布抽樣的原因。

天氣:P^n 的兩列都奔向 (2/3, 1/3)。從絕對確定是晴出發,pi_0 = (1, 0):你得到 (0.8, 0.2)、(0.72, 0.28)、(0.688, 0.312)、...,逼近 (2/3, 1/3)。從確定是雨出發,(0, 1):你得到 (0.4, 0.6)、...,同樣逼近 (2/3, 1/3)。兩段歷史相遇 —— 起點被遺忘了。

當鏈不可約且非週期時,從任何起點分布都收斂到同一個平衡。

對「極限」分布而言非週期性不可或缺:週期鏈有平穩 pi 但 P^(n) 永不收斂,只會振盪。所以「有平穩分布」並不蘊涵「會收斂到它」。

又稱
limit distributionconvergence to equilibriumfundamental limit theorem極限分布趨於平衡