隨機變數的函數與變換

差的分布(distribution of a difference)

一個隨機量減去另一個隨處可見:兩段等待時間的差距、股價的變動、測量值與真值之間的誤差、兩隊的比分差。差 D = X - Y 本身是隨機的,而你常想知道它的分布,例如要問 P(X 勝過 Y) = P(D > 0)。

差其實只是偽裝的和:X - Y = X + (-Y)。所以若 X 與 Y 獨立,先求 -Y 的分布(把 Y 的分布以零為軸反射),再與 X 卷積。具體地,對獨立的連續變數,f_D(d) = 對所有 x 積分 f_X(x) 乘以 f_Y(x - d) dx —— 和求和時一樣的「滑動、重疊、相加」,只是第二個密度倒著讀。一個好用的檢查:E[X - Y] = E[X] - E[Y],而對獨立的 X 與 Y,Var(X - Y) = Var(X) + Var(Y)。注意即使是差,變異數仍「相加」,因為把 Y 變號並不改變它的散布。

差帶著一個著名的警告。人們以為相減會抵消變動,但並不會 —— 不確定性是疊加的,不會相減。這就是為何兩個有雜訊的測量值之差比任一個都更吵,也是為何對時間序列作差分會放大雜訊。形狀也會改變:兩個獨立指數分布之差是對稱的 Laplace 分布,而非指數分布。

若 X ~ Normal(mu_1, sigma_1^2) 與 Y ~ Normal(mu_2, sigma_2^2) 獨立,則 X - Y ~ Normal(mu_1 - mu_2, sigma_1^2 + sigma_2^2)。均值相減,但變異數「相加」。所以兩台同樣精準的秤(各變異數 1)給出的差變異數為 2,標準差為 sqrt(2) —— 更吵,而非更乾淨。

均值相減,但獨立變數的變異數相加 —— 即使是差也一樣。

常見誤解:差不會抵消不確定性。對獨立變數,變異數相加,所以 X - Y 比任一部分更變動,絕不會更小。

又稱
distribution of X - Y差的分布