獨立變數之和的動差母函數
把隨機變數相加是我們最常做的事之一——許多賭注的總贏額、許多顧客的總需求、許多帶雜訊量測的總誤差。但直接求出一個和的分布其實很難:它需要一個卷積,一個把一個分布抹過另一個分布的積分。動差母函數提供了一條乾淨到像作弊的捷徑:在對的條件下,相加變成相乘。
規則是:當 X 與 Y 獨立時,M_{X+Y}(t) = M_X(t) 乘以 M_Y(t)。理由很短。依定義 M_{X+Y}(t) = E[e^(t(X+Y))] = E[e^(tX) e^(tY)]。獨立性正是讓「乘積的期望值」拆成「期望值的乘積」的那個性質,於是這變成 E[e^(tX)] 乘以 E[e^(tY)] = M_X(t) M_Y(t)。分布世界裡困難的卷積,在動差母函數的世界裡變成了普通的乘法——就像當年對數把乘法變成加法的同一種魔法。對許多獨立片段之和,你只要一直乘下去。
這一條規則,配上唯一性定理,是一整族乾淨結果背後的引擎。把獨立卜瓦松的動差母函數相乘,你會認出那是另一個卜瓦松的動差母函數,所以和是卜瓦松;把獨立常態的動差母函數相乘,你得到一個常態的動差母函數,所以和是常態。關鍵的細則是獨立性:若 X 與 Y 相依,乘積的期望值不會拆開,乘積規則就失效。乘積規則只是關於獨立加項的陳述。
設 X ~ 卜瓦松(a) 與 Y ~ 卜瓦松(b) 獨立。它們的動差母函數是 M_X(t) = e^(a(e^t - 1)) 與 M_Y(t) = e^(b(e^t - 1))。相乘:M_{X+Y}(t) = e^((a+b)(e^t - 1))。這正是卜瓦松(a + b) 的動差母函數,所以 X + Y ~ 卜瓦松(a + b)——用一行乘法就證明了。
對獨立的 X 與 Y,和的動差母函數是各動差母函數的乘積。
乘積規則需要獨立性。對相依變數 E[e^(tX) e^(tY)] 不會分解,故 M_{X+Y}(t) 一般不等於 M_X(t) M_Y(t)。