收斂模式與極限定理
依機率收斂(convergence in probability)
想像一個隨著你蒐集更多資料而越來越好的量測——比方一份長問卷的滾動平均。你想說它「收斂」到真相,但每一次執行仍是隨機的,所以你無法保證它剛好落在標靶上。依機率收斂是誠實的中間立場:它說「明顯出錯」的機會隨著 n 增大而縮到零。
精確地說:X_n 依機率收斂到 X,指的是對每個容忍度 epsilon > 0,當 n 趨於無窮時 P(|X_n - X| > epsilon) 趨近 0。慢慢讀這句話。挑任何你喜歡的誤差界,不管多小。隨著 n 增大,X_n 偏離 X 超過那個誤差界的機率趨於零。它「沒有」說 X_n 最終會永遠待在界內——對任何固定的大 n,仍有微小的機會出現大偏差;它只說那個機會很小。偏差變得罕見,但永遠不必完全停止。
弱大數法則正是用這種模式說話的:樣本平均依機率收斂到真正的均值。它比依分布收斂強(它蘊含依分布收斂),但比幾乎必然收斂弱。一個標準的微妙之處:一個序列可以依機率收斂,但對幾乎每個結果而言,實際的路徑 X_1, X_2, ... 卻一直跳動、永不安定——「打字機序列」是經典例子。在每個固定 n 上的機率接近,是比整條軌跡安定下來更弱的保證。
擲一枚公正硬幣 n 次,令 X_n 為正面的比例。對任何 epsilon,當 n 增大時 P(|X_n - 0.5| > epsilon) 縮向 0(柴比雪夫把這寫得很具體:變異數 0.25/n 消失)。所以 X_n 依機率收斂到 0.5——這就是弱大數法則在運作。
明顯偏差的機率縮到零——但偏差從未被完全禁止。
依機率收斂不代表路徑最終會一直靠近:對任何固定的大 n,大偏差仍然可能,只是不太可能。整條軌跡安定下來是更強的幾乎必然模式。
又稱
另見