條件期望與條件化

條件 Jensen 不等式(conditional Jensen inequality)

/ JEN-sen /

普通的 Jensen 不等式說:對一個凸函數——向上彎、像微笑或山谷的那種——平均之後再取函數,至多等於先取函數再平均:phi(E[X]) <= E[phi(X)]。條件版只是把每一個普通期望換成條件期望,同樣的不等式原封不動地保留下來,如今成立的是隨機變數之間、而非數字之間的關係。

精確地說:若 phi 是凸的、且 X 與 phi(X) 可積,則 phi( E[X given G] ) <= E[ phi(X) given G ],幾乎必然成立。圖像與無條件情形完全相同:先把 X 平均、再透過凸曲線彎折,會偏低,因為凸性意味弦在曲線之上——把值攤開再彎折,總會把平均抬到彎折後平均之上。對 G 取條件不過是在每一塊資訊之內做這個平均,所以不等式逐塊成立,亦即成為兩個隨機變數之間的不等式。取 phi(x) = x^2 給出有用的推論 ( E[X given G] )^2 <= E[ X^2 given G ],這正是條件變異數非負的種子。

條件 Jensen 是高等機率的一根沉默的脊樑。它證明了鞅的凸函數是下鞅(Doob 不等式背後的引擎),也支撐著取條件在 L^p 空間裡的收縮性質。與普通版相同的提醒:方向完全取決於凸性。對凹函數(向下彎、像小丘),不等式翻轉為 phi(E[X given G]) >= E[phi(X) given G];對線性函數則是等式。把彎曲方向搞錯,符號就反了。

取 phi(x) = x^2。條件 Jensen 給出 ( E[X given G] )^2 <= E[ X^2 given G ]。整理後,E[ X^2 given G ] - ( E[X given G] )^2 >= 0——而左邊正是條件變異數 Var(X given G),所以這個不等式恰恰就是條件變異數永不為負的陳述。

凸性把平均向上彎折,即使一次只在一塊資訊之內也是如此。

不等式的方向取決於凸性:凸函數給出 phi(E[X given G]) <= E[phi(X) given G],凹函數則反向。套到形狀不對的函數上,符號就會錯。

又稱
conditional JensenJensen for conditional expectation條件詹森不等式