對獨立 σ-代數取條件(conditioning on an independent sigma-algebra)
有些資訊對預測 X 根本無用。如果 G 告訴你的東西與 X 毫無關係——兩者在統計上獨立——那麼得知 G 完全不該改變你對 X 的估計。這條規則把它說得精確:對獨立資訊取條件,會讓條件期望塌回那個普通的、無條件的期望。知道東京一枚硬幣的結果,不會改變你對里斯本明日天氣的最佳猜測。
精確地說:若 X 與 σ-代數 G 獨立(意指 X 與 G 裡的每個事件都獨立),則 E[X given G] = E[X],一個常數。你可以拿兩條定義性質來驗證:常數理所當然是 G-可測的;而由獨立性,X 在 G 裡任何 A 上的積分等於 E[X] 乘以 P(A) = 常數 E[X] 在 A 上的積分,所以部分平均成立。兩條要求都滿足,於是由唯一性,條件期望必須是那個常數。對無關的東西取條件,給不了你任何新東西——恰如直覺所堅持的。
這是條件推理的兩大支柱之一,與「把已知拿出來」完美互補。兩者合起來就能處理典型的鞅步驟 E[ X_{n+1} given F_n ]:已經決定了 X_{n+1} 一部分的過去 F_n 被當作已知提出來,而與 F_n 獨立的全新增量則被卸下條件,回歸它的普通均值。一個誠實的提醒:條件是真正的獨立,不是僅僅零相關。一個與 X 不相關但不獨立的 G 仍可能把 E[X given G] 推離 E[X]——零相關只殺死線性依賴,而條件期望也看得見非線性依賴。
令 X 與 Y 為兩次獨立的擲骰。則 E[X given Y] = E[X] = 3.5,一個平坦的常數,無論 Y 顯示什麼——Y 對 X 帶有零資訊。但 E[X + Y given Y] = E[X given Y] + Y = 3.5 + Y,因為 X + Y 裡的那個 Y 此刻已知,被提了出來。
獨立的資訊無關緊要:E[X given G] 攤平成常數 E[X]。
這條規則需要真正的獨立,不只是零相關。一個與 X 不相關卻不獨立的變數仍可能改變 E[X given G],因為條件期望也偵測得到非線性依賴。