放回抽樣與不放回抽樣

想像一個裝著編號球的袋子。你抽出幾顆。兩種非常不同的規則可以決定抽取方式。「放回」抽樣：每次抽完記下球號後把球「放回」並搖勻，所以同一顆球可能再出現，而每次抽取面對的都是同一個袋子。「不放回」抽樣：球一旦抽出就留在外面，不會再出現，袋子隨每次抽取而縮小。這單一選擇會改變計數與機率，有時改變得很劇烈。

計數反映了規則。放回時，k 次抽取的每一次都獨立地看到全部 n 顆球，所以有序結果數是 n 乘 n 乘…… = n^k，而每次抽取彼此獨立、機率不變。不放回時，第一次看到 n 顆、第二次 n-1 顆，依此類推，得到 n 乘 (n-1) 乘……乘 (n-k+1) = n!/(n-k)! 種有序結果；這裡各次抽取是相依的，因為前面的抽取改變了剩下的東西。例如從 {1,2,3} 抽 2 顆，放回得 3^2 = 9 種有序結果；不放回得 3 乘 2 = 6 種。

為何重要：「不放回」正是二項分配與超幾何分配的差別、是公平抽獎與重複獨立試驗的差別，也是生日問題之所以成立的原因（問是否撞日時，人們等於在不放回地抽取生日）。一個有用的直覺：當袋子相對於抽取數非常大時，放回與不放回給出幾乎相同的答案，因為移走少數幾顆幾乎不改變袋子——這就是為何當母體很大時，超幾何分配會趨近二項分配。