中央極限定理（the central limit theorem）

為什麼鐘形曲線無所不在——出現在身高、考試分數、量測誤差，以及幾乎任何東西的平均裡？中央極限定理是深層的原因。它說：當你把許多微小、獨立的隨機貢獻加起來，總和會趨向常態分配，幾乎不論個別的片段長什麼樣子。秩序從一群互不相關的隨機中浮現。

精確地說：設 X_1, X_2, ... 獨立同分布，均值為 mu 且變異數 sigma^2「有限」。構造和 S_n = X_1 + ... + X_n，並把它標準化——減去其均值 n*mu，再除以其標準差 sigma*sqrt(n)：Z_n = (S_n - n*mu)/(sigma*sqrt(n))。則 Z_n 依分布收斂到標準常態 Normal(0, 1)。等價地，大 n 時樣本平均 X-bar_n 近似為 Normal(mu, sigma^2/n)。最驚人的是「不論原始分布為何」這句話——偏斜、離散、坑坑疤疤都無所謂；一旦標準化，和便忘卻出身，披上鐘形。標準的證明顯示特徵函數收斂到 e^(-t^2/2)，這正是常態的標記。

留意前提並誠實地讀它們。經典 CLT 需要「獨立」、「同分布」，以及關鍵的「有限變異數」——這些都不是裝飾。沒有有限變異數，它可以徹底失敗：柯西分配沒有變異數（連均值也沒有），標準化的和永遠不趨近常態。這個定理也是關於主體，而非極端尾端；至於尾端，有一個精修（貝里-埃森）給出誤差界，其誤差以 1/sqrt(n) 的速度縮小。而且它描述的是「平均」的極限，而非任何單次抽取——CLT 解釋了為什麼聚合量呈鐘形，而非為什麼自然界每一個量都呈鐘形。