期望值、變異數與動差
期望值的線性性
在機率所有規則裡,這一條好得幾乎令人不敢相信。它說你可以自由地把期望值穿過求和與常數倍數,而且——令人驚訝地——你不需要各部分彼此獨立。只要一個量能被拆成一個和,它的期望值就只是各期望值之和。
精確地說:對任意常數 a、b 與任意隨機變數 X、Y,E[aX + bY] = a E[X] + b E[Y],並可推廣到任意多項。奇蹟之處正是大多數人記錯的那部分:即使 X 與 Y 高度相依,它仍成立。為什麼?因為期望值是由求和(或積分)建構的,而你總能把和重新排序;相依性影響的是 X 與 Y 如何「一起變動」,但把加權值的和重排序從不過問這件事。(變異數與乘積就是另一回事了——那裡獨立性真的有關係。)
這是處理困難計數問題的祕密武器,因為你幾乎從不需要完整的分布。想要一次隨機洗牌中固定點的期望數目、空箱子的期望數目,或一副牌中相符的期望數目?把這個計數寫成若干簡單的「是/否」指示變數之和,對每一個取期望值(每個都只是一個機率),再相加。指示變數之間的相依性——通常還很麻煩——被完全忽略。這就是指示變數技巧,而線性性正是讓它合法的東西。
擲兩顆骰子,令 S 為其和。即使兩顆骰子以不平凡的方式組合,E[S] = E[骰子1] + E[骰子2] = 3.5 + 3.5 = 7。而即使你古怪地把它們黏在一起讓兩顆永遠出現同一面(完全相依),E[S] 仍然是 E[X] + E[X] = 7。線性性不在乎。
和的期望值就是各期望值之和——即使對相依的變數也成立。
期望值的線性性「不需要」獨立性——這正是它的全部威力所在。獨立性只在 E[XY] = E[X]E[Y] 以及變異數相加時才需要。
又称
另见