收斂模式與極限定理
強大數法則(the strong law of large numbers)
弱大數法則說:在每個大 n 上,樣本平均「很可能」接近真均值。強大數法則對整條無窮歷程作出更大膽的承諾:若你能沿著實驗的單一實現永遠盯著滾動平均,它「真的」會收斂到真均值並停在那兒——不只是在附近徘徊,而是徹底安定下來。
精確地說:若 X_1, X_2, ... 獨立同分布且均值 mu 有限,則滾動平均 X-bar_n = (X_1 + ... + X_n)/n 幾乎必然收斂到 mu。「幾乎必然」的意思是:使平均無法收斂到 mu 的那些無窮序列所成的集合,機率為零。固定一個宇宙——比方一條無窮的擲幣流——在除了一個可忽略集合之外的所有宇宙裡,正面的比例真的以普通微積分意義下的真正極限趨向一半。柯爾莫哥洛夫的定理是緊的:均值有限正是這件事所需要的(也是充分的)。
為什麼「強」勝過「弱」?因為幾乎必然收斂嚴格強於依機率收斂。弱大數法則允許平均無窮多次跑出任何帶外(只是在每個 n 上機率趨零);強大數法則對幾乎每條路徑禁止這件事——最終平均進入 mu 周圍的每一個帶並且永不離開。正是這個法則替機率本身的頻率學派意義背書:「機率是長期頻率」是一個定理,是把強大數法則套用到指示變數上,而不僅僅是一個定義。
想像在單一無止盡的擲幣歷程中記錄正面的滾動比例:100 次後 0.62,10000 次後 0.508,一百萬次後 0.4997……對幾乎每一條這樣的歷程,這個數字以真正的極限收斂到恰好 0.5,並且永遠不再永久離開它周圍的任何微小區間——這是單一宇宙裡的強大數法則。
沿著單一無窮歷程,平均真的收斂到 mu——除了一個機率為零的歷程集合之外都如此。
強大數法則把弱大數法則從依機率收斂升級為幾乎必然收斂。它使「機率等於長期頻率」成為一個定理,而不只是一個定義。
又称
另见