收斂模式與極限定理

重對數律(the law of the iterated logarithm)

強大數法則說樣本平均收斂到 mu;中央極限定理說圍繞 mu 的起伏大小為 sigma/sqrt(n)。但這兩者之間留了個縫:當你永遠盯著單一無窮歷程時,「極端」起伏能有多大?有時平均會異常遠離 mu——究竟多遠、多頻繁?重對數律正是填補這個縫的、出奇精確的細則。

精確地說,對均值為 0、變異數為 sigma^2 的獨立同分布變數,看其部分和 S_n。這個律說:以機率 1,比值 S_n / sqrt(2 * sigma^2 * n * ln(ln n)) 的上極限等於 +1,下極限等於 -1。來解碼。部分和反覆擦過的那道「包絡線」是 sqrt(2 * sigma^2 * n * ln(ln n))——比 CLT 的 sqrt(n) 尺度大一點點,被雙重迭代的對數 ln(ln n) 撐大(而它增長得慢得令人發指)。上極限 = +1 意味著部分和爬上去親吻上包絡線無窮多次,卻永不永久超越它;下極限 = -1 在下方說同樣的事。路徑永遠擺盪,刮著一道被精準校準的邊界。

它是兩大法則之間的橋。CLT 描述單一 n 上 S_n 的典型大小(sqrt(n) 階);LIL 描述跨越所有 n 的罕見「紀錄」遠征的大小(sqrt(n ln ln n) 階)。多出來的 ln(ln n) 因子恰好足夠讓邊界被無窮多次跨越,但跨越的頻率趨零。誠實的細微之處:上極限與下極限講的是永遠重現的事件,而非 S_n 安定下來——部分和永不收斂(它們增長),只有滾動平均收斂。LIL 是關於「那條部分和的隨機漫步究竟有多飄忽、不論你看多久」的最鋒利而誠實的陳述。

對一枚公正硬幣,把「正面減反面」記為 S_n,LIL 說 S_n 反覆向上達到約 sqrt(2 n ln ln n)、向下達到約 -sqrt(2 n ln ln n),無窮多次,卻永不永久突破。當 n = 十億,ln(ln n) ≈ 3.0——所以即使擲了十億次,這個雙重對數修正也只是約 sqrt(6) 的因子。

部分和反覆擦過大小為 sqrt(2 sigma^2 n ln ln n) 的包絡線——比 sqrt(n) 大,但只多一個爬行般的 ln ln n。

LIL 講的是起伏的上、下極限永遠重現,而非和安定下來——部分和永不收斂,只有平均收斂。

又称
LILKhinchin's law of the iterated logarithm迭代對數律重對數定律