聯合分布、共變異數與相關

和的變異數(the variance of a sum)

平均值永遠相加 —— E[X + Y] = E[X] + E[Y],沒有任何附帶條件。變異數就沒這麼簡單。一個總和的分散程度是否等於各部分分散程度的單純相加,完全取決於這些變數是否一起變動,而這由它們的共變異數所支配。

兩個變數的一般規則是 Var(X + Y) = Var(X) + Var(Y) + 2 Cov(X, Y),這直接來自共變異數的雙線性。交叉項就是全部的關鍵。若兩者傾向一起漲跌(共變異數為正),總和會比你天真預期的「更」分散;若彼此抵銷(共變異數為負),總和則「較不」分散 —— 這正是分散投資背後的數學。只有當它們不相關時,交叉項才消失、變異數才單純相加:Var(X + Y) = Var(X) + Var(Y)。對多個變數,Var(對 i 加總 X_i) = 對 i 加總 Var(X_i) + 2 乘以對所有配對加總的 Cov(X_i, X_j)。

獨立足以(雖然比必要條件更強)使變異數相加,因為獨立迫使每個共變異數為零。這就是為什麼對 n 個變異數皆為 sigma^2 的獨立同分布測量,其和的變異數為 n sigma^2,而平均的變異數為 sigma^2 / n —— 它的分散程度按 1 / 根號 n 縮小。這單一事實正是為什麼取平均能降低雜訊,也是大數法則與中央極限定理的種子。

對 n = 100 個各自標準差為 10 的獨立測量取平均。每個變異數為 100;其和的變異數為 100 乘 100 = 10000;平均的變異數為 10000 / 100^2 = 1,故標準差為 1。取平均把雜訊從 10 降到 1 —— 一個 10 = 根號 100 的倍數。

對獨立的項,平均的標準差按 1 除以根號 n 縮小。

唯有交叉共變異數項為零時變異數才相加(不相關即足夠,獨立則保證)。共變異數為正時,總和更分散而非更少。

又稱
variance of a sum of random variables和變異數公式