聯合分布、共變異數與相關
可交換隨機變數(exchangeable random variables)
有時一串觀測值並不獨立,卻完全對稱 —— 它們的標籤(第一、第二、第三)不帶任何特殊意義,任何重新排序在統計上看起來都相同。可交換性正好捕捉這種「順序無關緊要」的對稱,它比獨立弱,但在真實建模中常見得多。
嚴格來說,X_1, ..., X_n 可交換,若它們的聯合分布在指標的「每一個」排列下都不改變:任何數值樣式的機率,不論你把它們指派到哪些位置上,都相同。獨立同分布變數永遠可交換(重排獨立且相同的東西毫無改變),但反之不成立:可交換變數可以強烈相依。其定義特徵是變數之間的對稱,而非沒有相依 —— 它們同分布,且每一對之間共享相同的相關。
當各單位可互換、卻可能透過某個共同的未知量相連時,可交換性是自然的假設 —— 經典例子是共同成功率本身不確定的抽樣。德菲內蒂定理(de Finetti's theorem)把這一點說得精確而優美:一個無窮的可交換二元序列,其行為恰如你先從某分布抽出一個隱藏機率 p,再以這個 p 做獨立的擲幣。這是把主觀貝氏先驗轉化為對稱性之結果的橋樑,也是統計學中各種階層模型的基礎。
從裝有 2 紅 2 白的甕中不放回地抽 3 球。顏色 X_1, X_2, X_3「不」獨立(每次抽取都改變甕的內容),卻可交換:P(紅, 白, 紅) = P(紅, 紅, 白) = P(白, 紅, 紅),因為只有顏色的多重集合、而非順序,會影響機率。
不放回的抽取可交換卻相依 —— 順序無關緊要,但各次抽取彼此相連。
可交換比獨立弱:i.i.d. 蘊涵可交換,但可交換變數通常相依。可交換性是一種對稱,而非沒有相依。
又称
另见