期望值、變異數與動差

條件期望與塔性質(入門)

知道額外資訊應該會精煉你的預測。若你得猜一個陌生人的身高,你給出整體平均;但被告知他打職業籃球,你便大幅向上修正。條件期望把這件事精確化:它是當你知道某個相關變數 Y 的值之後,X 的期望值。

分兩步來讀。第一,E[X given Y = y] 是一個普通的數字:在 Y 取了特定值 y 的那一片世界裡所算出的 X 的均值——你把注意力限制在那些結果上,只對它們平均 X。第二,由於這個答案隨 y 改變,整個物件 E[X given Y] 是 Y 的一個函數:一條規則,對 Y 碰巧取的每個值,回傳對應的精煉均值。關鍵地,因為 Y 是隨機的,E[X given Y] 本身就是一個隨機變數——你的預測是隨機的,因為它取決於你觀察到哪個 Y。

把它連回普通均值的頭號結果是塔性質,也叫全期望公式:E[ E[X given Y] ] = E[X]。用白話說,若你把精煉後的預測對 Y 所有可能的值平均,你會還原出樸素的整體均值。它把「對一個有幫助的變數做條件、解開容易的小塊、再平均回去」形式化——把一個困難的期望值拆成若干情形,在每個情形內求 E[X],再依每個情形的可能性加權。這種拆情形的手法是整個機率裡最強大的解題招式之一。

擲一顆骰子(Y);然後丟那麼多枚公正硬幣,令 X 為正面數。在每個情形內 E[X given Y = y] = y/2。所以 E[X given Y] = Y/2,由塔性質 E[X] = E[Y/2] = (1/2)(3.5) = 1.75 個期望正面——藉由做條件算出,不必追蹤聯合分布。

把逐情形的預測對 Y 平均回去即可還原整體均值:E[E[X|Y]] = E[X]。

E[X given Y = y] 是一個數字,但 E[X given Y] 是一個隨機變數(Y 的函數)。塔性質說把它對 Y 平均會還原 E[X];別把它與對單一固定值做條件混淆。

又稱
E[X given Y]conditional meanlaw of total expectation條件期望值