母函數與特徵函數

為什麼特徵函數永遠存在

這是個驚人的主張:動差母函數可能不存在,但特徵函數從不缺席——對世上每一個隨機變數,無論它的尾巴多麼狂野,phi_X(t) 都有定義且有限。為什麼把實數指數換成虛數指數,e^(tX) 變成 e^(itX),就能造成天壤之別?答案是關於「大小」的一行觀察。

比較這兩個被積函數。對動差母函數,e^(tX) 隨 X 增長而指數成長;若分布在尾端遠處有足夠機率,平均 E[e^(tX)] 就是任意巨大數字的平均,發散到無窮。對特徵函數,e^(itX) 完全不同。由歐拉公式 e^(itX) = cos(tX) + i sin(tX),快速一驗得 |e^(itX)|^2 = cos^2(tX) + sin^2(tX) = 1。所以對每個 X 與 t 的值都有 |e^(itX)| = 1——被積函數是一個單位長度的複數,只旋轉、不增長。平均一堆大小都是 1 的量,只能得到大小至多為 1 的東西;平均不可能跑向無窮。因此 E[e^(itX)] 存在,且 |phi_X(t)| <= 1 恆成立。

這正是為什麼特徵函數是機率論嚴謹的基石,而不只是一種便利。像柯西這類重尾律,沒有均值、沒有變異數、沒有動差母函數,卻仍有一個完美良好的特徵函數。所以任何你用特徵函數證明的定理都普遍適用,不附帶「只要動差母函數存在」這類條款。模有界正是讓變換能承載最深刻極限定理(包括中央極限定理最一般形式)的全部理由。

柯西分配的尾巴重到 E[X] 不存在,且對每個 t != 0 都有 E[e^(tX)] 發散,所以它沒有可用的動差母函數。然而它的特徵函數是完全溫馴的 phi_X(t) = e^(-|t|),以 1 為界——生動地證明了 |e^(itX)| = 1 在指數成長使動差母函數陣亡之處拯救了大局。

因為 |e^(itX)| = 1,平均 E[e^(itX)] 以 1 為界且永遠存在——即使動差母函數不存在。

存在不代表每個動差都存在。phi_X(t) 永遠有定義,但它在 0 只夠平滑到能讀出分布實際擁有的那些動差——柯西的 phi 在 0 有一個尖角,恰對應它缺失的均值。

又称
boundedness of the characteristic functionexistence of phi_X特徵函數恆存在