常態近似的斯坦因方法(Stein's method for normal approximation)
/ stine /
常態近似的斯坦因方法是一個極為一般的技巧,由 Charles Stein 於 1972 年提出,用來界定隨機變數的分布與標準常態之間的距離——關鍵是帶有明確誤差界且不需要獨立性,而這正是中央極限定理的經典特徵函數證明失效之處。中央極限定理說許多弱相依變數的標準化和近似高斯,但經典傅立葉方法需要獨立性且只給出極限而非速率。斯坦因方法能處理相依的被加項(局部相依、可交換對、尺寸偏置)並產生定量界,包括 Berry-Esseen 型速率,使它在現代機率組合學與高維統計中不可或缺。
出發點是斯坦因刻畫:隨機變數 Z 是標準常態 N(0,1),當且僅當對所有適當光滑且有界的 f 有 E[f'(Z) - Z f(Z)] = 0。要界定變數 W 離常態多遠,選一檢驗函數 h 並對 f 解斯坦因方程 f'(x) - x f(x) = h(x) - E[h(N)];則量 E[h(W)] - E[h(N)] 等於 E[f'(W) - W f(W)],故界定距離歸結為利用 W 的結構界定這單一期望。數種耦合使 E[f'(W) - W f(W)] 可處理:可交換對方法構造一對 (W, W'),具相同邊際分布、相差一小步且滿足回歸線性條件 E[W' - W | W] = -lambda W;尺寸偏置與零偏置耦合給出其他途徑。每一種都把抽象期望化為一個由小而可控誤差項組成的具體和,得出到常態的某機率度量(Wasserstein、Kolmogorov 或全變差距離)的界。
其重要性在於它是帶相依且帶明確速率的中央極限定理的首選方法:子圖與模式的計數、隨機置換上的統計量(下降數、某些範圍中最長遞增子序列的波動)、反投票者與其他交互模型,以及許多統計估計量,在傅立葉方法失效之處都對它臣服。它也推廣到多元甚至泛函(Stein-Malliavin)的高斯空間上常態近似。誠實的提醒是:解並界定斯坦因方程需要解 f 的正則性(需要 f、f',有時 f'' 的界)與一個好的耦合;構造對的可交換對或尺寸偏置耦合是一門藝術,差的耦合給出弱或空洞的界。此方法給出某距離的上界,而非確切的極限律——且小的 Wasserstein 距離若無額外的平滑化論證,並不自動轉成小的 Kolmogorov(累積分布函數)距離。
不動點數 / 相依結構上的和。取 W =(固定圖 H 在 G(n,p) 中出現的邊數,已中心化與標準化)。其被加項(貢獻於 H 副本的邊指示)是局部相依的。藉由重抽一條隨機邊構造一個可交換對;驗證近似的 E[W' - W | W] = -lambda W,斯坦因方法便給出階為比方說 1/sqrt(副本數) 的 Wasserstein 界,得出子圖計數的定量中央極限定理,而此處特徵函數證明無法應付相依。
斯坦因恆等式 E[f'(Z) - Z f(Z)] = 0 加上一個耦合,把「W 有多常態?」化為一個有界誤差和。
構造對的可交換對或尺寸偏置耦合是一門藝術——差的耦合給出空洞的界——且小的 Wasserstein 界若無額外平滑化並不自動給出小的 Kolmogorov(累積分布函數)距離。