JOVANA
Explore Library Glossary Getting Started Three Levels Fields How it works Mission
Join the mission
All guides

抽樣與中央極限定理

為什麼幾千人就能代表數百萬人——抽樣分配,以及統計學中最有用的那條定理。

為什麼要抽樣:你無法量遍每一個人

假設你想知道一個數字:全台灣每一位大學生的每日平均螢幕使用時間——大約 120 萬人。你永遠不可能量遍他們所有人。要接觸到每一位學生會花掉一大筆錢、耗上好幾個月,而等你做完,答案早就變了。這不是什麼特例,而是常態。幾乎每一個有趣的問題,背後那個群體都大到、貴到、或麻煩到無法整個檢視一遍。

於是我們做唯一合理的事:看一小片,然後推論整體。我們真正在乎的那整個群體,叫做母體——這裡就是全部 120 萬名學生。我們設法量到的那一小片,叫做樣本——比方說我們成功訪問到的 1,000 名學生。量遍每一個人稱為「普查(census)」;但我們幾乎總是退而求其次,改用樣本。

替兩種數字取個名字會很有幫助。描述整個母體的數字叫做母數(parameter)——例如真正的母體平均數,用希臘字母 mu(μ)表示。我們從樣本算出來的數字叫做統計量(statistic)——例如樣本平均數,寫成 x-bar(x̄)。母數是固定卻未知的;統計量則是我們真的算得出來的東西。這份指南通篇要玩的遊戲就是:統計量 x̄ 能多好地替我們代言那個看不見的母數 μ?

\bar{x} = \frac{1}{n}\sum_{i=1}^{n} x_i

樣本平均數:把你蒐集到的 n 筆測量值加起來,再除以筆數。若 1,000 名學生平均是 4.7 小時,那麼 x̄ = 4.7。它就是我們對未知 μ 的最佳單一猜測。

用 x̄ 去講 μ 的事——用樣本對母體下結論——這正是統計推論的意思。本系列從信賴區間到 A/B 測試的一切,都建立在這一步上。而這一步要成立,得有兩個問題的答案夠好:樣本是不是母體的公正縮影,以及我們這個單一數字可能偏離多遠?這份指南會回答這兩件事。

好的樣本:代表性勝過數量

1936 年,美國一本暢銷雜誌《文摘》(Literary Digest)寄出問卷來預測總統大選。他們收回多達 240 萬份回覆,信心滿滿地預測挑戰者藍登(Alf Landon)將大勝。結果羅斯福(Franklin Roosevelt)在 48 州中拿下 46 州。差不多同時,蓋洛普(George Gallup)只調查了約 5 萬人,卻準確說中了結果。一份小小的民調,怎麼會贏過一份巨無霸民調?

因為那個巨無霸樣本是歪的。雜誌從電話簿和汽車登記名單上抽名字——在 1936 年,這些是有錢人的標記,而有錢人偏向藍登。樣本雖大,卻系統性地偏離了它聲稱要描述的母體。這就是抽樣偏誤(sampling bias):你挑樣本的方式,有意或無意地,使它與母體產生差異。當罪魁禍首正是「挑選方式」本身時,也稱為選擇偏誤

解方是隨機。在簡單隨機抽樣(simple random sample)中,母體裡的每一個成員,被抽中的機會都一樣、而且事先已知,由擲硬幣或亂數產生器決定,而不是由「誰比較好找」決定。隨機有個美妙的性質:它不偏袒任何人。平均而言,它會按照富人與窮人、大聲與安靜的人在母體中實際的比例,把他們都拉進來。這正是讓樣本成為整體公正縮影的關鍵。

現實中多數的災難,都來自跳過這一步。便利抽樣(convenience sample)抓的是手邊現成的人——你的同學、某家咖啡店門口走過的路人。自願回應抽樣(voluntary response sample)讓人自己選擇參加,例如線上投票,結果過度蒐集了意見強烈的人。兩者感覺都像資料,卻悄悄在回答一個和你原本所問不同的問題。

我們伸手探入龐大的母體,取出一份份量適中的樣本,從中算出一個統計量(x̄),再用它反推回母體那個未知的母數(μ)。隨機挑選,就是讓這趟來回保持誠實的那支箭。

左側是一個由許多點組成、標示為「母體」的大圓;一支箭把一小撮點拉進右側標示為「樣本」的小圓;樣本的平均數再以虛線指回母體那個未知的平均數。

抽樣分配:結果本身也是隨機的

現在來談那個能解開一切的觀念。你訪問了 1,000 名學生,得到 x̄ = 4.7 小時。但假設同一天,一位同事隨機訪問了「另外」1,000 名學生。他們不會剛好得到 4.7——可能是 4.6,或 4.9。樣本平均數並不是關於世界的固定事實;它取決於哪些人恰好落進了你的樣本。換句話說,x̄ 本身就是隨機的。

所以想像把這個調查不是做兩次,而是做上千次——每次都是全新的隨機 1,000 名學生,每次都記下你得到的 x̄:4.70、4.62、4.88、4.75、4.69,依此類推。現在把所有這些 x̄ 值畫成直方圖。這張直方圖,就是平均數的抽樣分配:你的估計值在不同樣本之間上下跳動的形態。現實裡你永遠只抽得到一份樣本——但想像「所有你本來可能抽到的樣本」構成的這個分配,正是讓我們能夠說出你那一個數字有多可信的關鍵。

關於抽樣分配的兩個事實,能帶我們走很遠。第一,若抽樣沒有偏誤,抽樣分配會剛好以真正的 μ 為中心——你的估計值會偏高也偏低,但它們會誠實地簇擁在真值周圍。這正是 x̄ 成為好估計量的原因,也是你回報的那個單一數字被稱為點估計的原因。第二,那個簇擁的散開程度——也就是 x̄ 們圍著 μ 抱得多緊——告訴你你那一個估計值大概會偏離多少。把這個散開程度量出來,就是下一節的工作。

標準誤,以及它為何隨 1/√n 縮小

抽樣分配的散開程度,有它自己的名字:標準誤。用白話說,標準誤就是「你的樣本估計值與真值之間的典型距離」。標準誤小,代表你的 x̄ 大概離 μ 很近;標準誤大,代表你那一個數字可能偏得不少。它是衡量「一個估計值該被信任多少」的頭號指標。

別把它和標準差搞混。標準差衡量的是「個別的人」散得多開——有的學生一天用手機 1 小時,有的用 9 小時。標準誤衡量的是「不同樣本之間,平均數」散得多開——而平均數遠比個人來得穩定,因為一份樣本裡幸運的高值與不幸的低值會互相抵消。同樣的字根,工作卻完全不同:標準差講的是人,標準誤講的是你的估計值。

\operatorname{SE}(\bar{x}) = \frac{\sigma}{\sqrt{n}}

先用文字說一遍:拿母體的標準差 σ(個別的人散得多開),除以樣本數 n 的平方根。樣本越大,標準誤越小——但縮小的速度,只跟得上 √n 增長的速度。

套上數字。假設螢幕時間的標準差是 σ = 2 小時。當 n = 100 名學生時,標準誤是 2/√100 = 0.20 小時。加到 n = 400,就變成 2/√400 = 0.10。一路加到 n = 1,000,則約為 0.063。注意這個規律:要把標準誤砍半——從 0.20 降到 0.10——你不是把樣本加倍,而是得把它變成四倍,從 100 加到 400。這就是「平方根法則」,也是精確度為何會迅速變貴的原因。

一個誠實的小麻煩:公式用的是 σ,也就是母體標準差,而我們幾乎從不知道它——如果我們對母體了解到那種程度,可能早就知道 μ 了。實務上,我們改用樣本自己的標準差(寫成 s)代入,得到一個「估計的標準誤」。這是對「估計值之擺動」的估計,但只要樣本還算像樣,它就管用。

\widehat{\operatorname{SE}}(\bar{x}) = \frac{s}{\sqrt{n}}

你實際會算的版本:把未知的 σ 換成 s,也就是你蒐集到的資料的標準差。上面那頂小帽子代表「估計的」。

import numpy as np

screen_time = df["hours"]                 # one column, the 1,000 students you surveyed
x_bar = screen_time.mean()               # the point estimate, e.g. 4.7
s     = screen_time.std(ddof=1)          # the sample standard deviation, e.g. 2.0
se    = s / np.sqrt(len(screen_time))    # the standard error, e.g. ~0.063

print(f"estimate {x_bar:.2f} hours, standard error {se:.3f}")
用 pandas 計算估計值與它的標準誤。估計值回答「我們發現了什麼」;標準誤回答「這個發現有多不穩」。兩者永遠要一起回報。

中央極限定理,現場示範

我們現在知道,抽樣分配以 μ 為中心、散開程度是 σ/√n。但它是什麼形狀?這時,統計學中最有用的定理登場了,也就是中央極限定理(常簡稱 CLT)。它的主張好到幾乎令人難以置信:不論母體有多麼古怪、多麼歪斜,只要樣本數夠大,平均數的抽樣分配就會逼近一條鐘形曲線——也就是常態分配

用骰子看它發生。單一顆公正骰子是「平」的:1 到 6 機會均等——一點鐘形都沒有。擲兩顆骰子取平均,中間的值(3.5 附近)會比兩端更常出現,因為平均到 3.5 的組合很多,但平均到 1 的方式只有一種。改成每次擲三十顆骰子取平均、重複很多次,那些平均值的直方圖就會是一條乾淨的鐘形曲線——即使你一開始拿的東西是完全平的。「取平均」這個動作本身,就製造出了鐘形。

挑一個母體形狀——平的、偏斜的、甚至雙峰的——然後抽樣,看著它們平均數的直方圖。當你把樣本數調大,那個凹凸不平的原始形狀就會塌縮成一條平滑的鐘形,而且鐘形會以 1/√n 的速度變窄。這一個示範,就濃縮了整份指南。

一個互動面板:左邊是選定的母體形狀(均勻、偏斜或雙峰);右邊是樣本平均數的直方圖,隨著樣本數滑桿被調大,它變得越來越高、越來越窄、也越來越像鐘形。

\bar{x} \;\approx\; \mathcal{N}\!\left(\mu,\; \frac{\sigma^{2}}{n}\right)

用符號寫:當 n 夠大時,樣本平均數的行為就像一個常態分配,中心在真值 μ,散開程度(也就是標準誤)為 σ/√n。本份指南的三個大觀念——中心、散開、形狀——全都住在這一行裡。

import numpy as np
rng = np.random.default_rng(0)

pop   = rng.exponential(scale=4.0, size=1_000_000)   # a VERY skewed population
means = [rng.choice(pop, size=100).mean() for _ in range(10_000)]

# pop is lopsided, but the histogram of `means` is a tidy bell — that is the CLT.
print(np.mean(means), np.std(means))   # ~the true mean, ~ sigma / sqrt(100)
用模擬印證這條定理:一個嚴重偏斜的母體(指數分配),但一萬個樣本平均數卻組成一條乾淨的鐘形,而它的寬度正好對上 σ/√n。跑跑看就知道。

多大才算夠大?常見的經驗法則是「輕度偏斜資料 n ≥ 30」,但請把它當成口耳相傳的習慣,而非鐵律。接近對稱的母體幾乎一下子就看起來常態了;嚴重偏斜或厚尾的母體可能需要好幾百。CLT 還有個近親,叫大數法則:後者保證隨著 n 增大,x̄ 會逐漸逼近 μ(估計變準確);而 CLT 描述的是在這趟旅程上,x̄ 以何種精確的鐘形方式散落在 μ 周圍(擺動的形狀)。兩者合起來,解釋了常態分配為何如此頻繁地現身,也解釋了為何眾多統計程序能放心倚靠它。

三個截然不同的母體形狀——平的、右偏的、雙峰的——各自匯入同一個終點:平均數那條鐘形的抽樣分配。起點的形狀幾乎無關緊要;取平均把它洗掉了。

左邊三張形狀各異的母體直方圖,每張各有一支箭通往右邊同一條鐘形曲線,標示為「平均數的抽樣分配」。

中央極限定理承諾什麼、不承諾什麼

中央極限定理之所以強大,正因為它對母體要求得這麼少。但這份強大常被過度推銷,所以這裡列出誠實的附帶條款——那些會釀成真實錯誤的誤讀。

  1. 它不會讓你的資料變常態。變成鐘形的只有「平均數(或總和)的分配」。個別的所得、等待時間、螢幕時間,依舊和原本一樣偏斜——別指望你那 1,000 筆原始值的直方圖會看起來常態。
  2. 它需要有限的變異數。若母體厚尾到變異數實質上無限大(某些財富與保險損失模型就是如此),鐘形永遠不會成形,σ/√n 法則也會失效。CLT 是對「尾巴尋常」的母體所做的承諾。
  3. 它需要觀測值彼此獨立。若你的資料點互相牽連或成群——同一間宿舍的學生、同一位使用者的多次造訪——你的有效樣本數會小於 n,真正的標準誤會大於 σ/√n,你的把握程度也會被虛假地抬高。
  4. 它講的是平均數與總和,不是所有東西。最大值、最小值,或兩個估計值的比值,遵循的是它們自己、不同的規則。別假設你算出的每一個統計量都會落在鐘形上。

從抽樣,通往推論的其餘部分

這份指南的三個觀念——抽樣分配、標準誤,以及來自 CLT 的常態形狀——是你將遇到的幾乎每一種統計方法底下的引擎。一旦你知道自己的估計值,行為就像一個以 μ 為中心、寬度為 σ/√n 的鐘形,你就能回答大家其實最想要的那個實用問題:真值可能離我的數字多遠?

常態曲線有個好用的特性:大約 95% 的面積,落在距中心兩個標準誤的範圍內。把它反過來用,你就得到一條「多數時候能罩住真值」的區間配方。

\bar{x} \;\pm\; 2 \times \frac{\sigma}{\sqrt{n}}

估計值,加減大約兩個標準誤——這就是 95% 信賴區間的雛形。以 x̄ = 4.7、SE ≈ 0.063 來算,大約是 4.7 ± 0.13 小時。那個 ±0.13 就是誤差範圍。

這一行,會長成接下來的兩份指南。把估計值用它的標準誤包起來,你就得到一個信賴區間,並附上一個誤差範圍回報。反過來,若你問的是「我的數字是否驚人地偏離某個被宣稱的值」,那你正在做假設檢定。兩者都不過是同一個抽樣分配,只是從兩個不同方向去讀它。

而當像 σ/√n 這樣的公式不適用時——統計量很雜亂、樣本很小或很怪——有一個漂亮而直接的替代方案,叫做自助法(bootstrap)。你不去信賴一條描述抽樣分配的公式,而是把它模擬出來:對你自己的資料重複地「有放回」重抽,每次重算一遍統計量,讓電腦替你把抽樣分配畫出來。它和整份指南是同一個觀念——多份樣本揭露散開程度——只是改用蠻力來做。

  1. 我們抽樣,是因為量遍整個母體不可能——我們用一個統計量(x̄)去代言一個未知的母數(μ)。
  2. 唯有隨機挑選,樣本才能代表母體;代表性勝過數量,而偏誤永遠不會因資料變多而縮小。
  3. 估計值本身是隨機的;它在不同樣本之間變動的形態,就是抽樣分配。
  4. 它的散開程度就是標準誤 σ/√n,所以精確度的提升,只跟得上樣本數的平方根。
  5. 多虧中央極限定理,那個抽樣分配近似常態——這正是接下來的信賴區間與假設檢定的地基。