聯合分布、共變異數與相關

零相關不蘊涵獨立(zero correlation does not imply independence)

這是整個機率論中最重要、也最常被違反的事實之一。人們很容易把「相關係數為零」讀成「完全沒有關係」,然後把兩個變數當作獨立。這一步是錯的,弄錯了會導向嚴重偏差的結論。

原因正在於相關係數所衡量的東西。共變異數、進而相關係數,只捕捉變數之間的「線性」關聯 —— 沿著一條直線排列的傾向。兩個變數可以不相關(rho = 0,沒有線性趨勢),卻透過某種曲線關係而完全、甚至確定地相依。獨立是強得多的要求:它要求聯合分布對「每一個」事件都能分解,排除一切形式的相依,無論線性或非線性。因此獨立蘊涵零相關,但反之不然。

有一個著名的例外助長了這個混淆:若 (X, Y) 為聯合(二元)常態,則不相關「確實」蘊涵獨立。人們從這個特例過度推廣。一般而言它是錯的 —— 誠實的規則是:獨立會免費給你零相關,但零相關只買到「沒有直線趨勢」這一點,僅此而已。

令 X 在 (-1, 1) 上均勻分布、Y = X^2。則 E[X] = 0 且 E[XY] = E[X^3] = 0,故 Cov(X, Y) = E[XY] - E[X]E[Y] = 0、rho = 0。然而 Y 是 X 的確定函數 —— 知道 X 就完全決定了 Y。不相關,卻是相依到極點。

一個乾淨的反例:拋物線給出零相關,卻是完全相依。

唯一安全的逆向命題:若 (X, Y) 為聯合常態,不相關確實蘊涵獨立。離開這個特例,絕不可從 rho = 0 推論獨立。

又稱
uncorrelated is not independent零相關不等於獨立