母函數與特徵函數

從機率母函數取回動差與機率

把一個分布存進機率母函數 G_X(s),只有在你能把資訊再取回時才有用。可愛的是,兩種完全不同的事實——個別機率 P(X = k),以及均值、變異數這類動差——都從同一個函數掉出來,只要對它微分並在對的點讀取。把機率母函數想成一個上鎖的櫃子,而微分是開兩個不同抽屜的兩把鑰匙。

第一個抽屜是機率。既然 G_X(s) = P(X=0) + P(X=1)s + P(X=2)s^2 + ...,令 s = 0 只剩常數項,故 G_X(0) = P(X = 0)。微分一次再令 s = 0,就剝下下一個係數:P(X = 1) = G_X'(0)。一般地 P(X = k) = G_X^(k)(0)/k!,正是微積分裡的泰勒係數規則。第二個抽屜是動差,但要在 s = 1 而非 0 讀取。因為對 s^k 微分得到 k s^(k-1),代入得 G_X'(1) = 對 k 求和 k P(X = k) = E[X]。再微分一次,G_X''(1) = E[X(X - 1)],即第二階階乘動差。由這兩個你就拼出變異數:Var(X) = G_X''(1) + G_X'(1) - (G_X'(1))^2。

於是一個函數悄悄盛裝了整個分布:在 0 的導數一個一個交回機率,在 1 的導數交回動差。小小的代價是:在 1 的導數給的是階乘動差 E[X(X-1)...(X-k+1)],而不是直接給原點動差 E[X^k],所以你要做一個小小的代數步驟換算——但對均值與變異數這兩個最常用的數字,換算既短又標準。

對 X ~ 卜瓦松(lambda),G_X(s) = e^(lambda(s-1))。則 G_X'(s) = lambda e^(lambda(s-1)),故 G_X'(1) = lambda = E[X]。又 G_X''(1) = lambda^2 = E[X(X-1)],得 Var(X) = lambda^2 + lambda - lambda^2 = lambda——還原出卜瓦松的均值與變異數都是 lambda 這個著名事實。

在 s = 0 的導數給出機率;在 s = 1 的導數給出(階乘)動差。

在 1 的導數給的是階乘動差 E[X(X-1)...],不是直接給原點動差 E[X^k]——需用一個小代數步驟換算。變異數公式 Var(X) = G''(1) + G'(1) - (G'(1))^2 已替你完成這件事。

又稱
pgf derivativesfactorial moments from the pgf從 pgf 還原機率