Radon-Nikodym 導數與絕對連續(Radon-Nikodym derivative and absolute continuity)
/ RAH-don nee-KOH-deem /
機率密度函數描述一個分布的權重如何散布,但密度究竟從何而來、又在什麼時候才存在?Radon-Nikodym 定理徹底回答了這點。它說:只要一個測度在某種精確意義下與另一個相容,第一個就能寫成第二個乘上一個密度函數——而這個密度就是 Radon-Nikodym 導數。我們熟悉的 pdf,恰是某分布對勒貝格測度的密度。
這個相容條件就是絕對連續:測度 mu 對測度 nu 絕對連續,記為 mu << nu,意指凡是 nu 視為可忽略(nu = 0)的集合,mu 也視為可忽略(mu = 0)。換言之,mu 不能在 nu 看不見任何東西之處放上權重。Radon-Nikodym 定理於是保證存在一個非負函數 f,即導數 dmu/dnu,使得對每個可測集 A 都有 mu(A) = 在 A 上對 f 取 dnu 的積分。這個 f 是兩測度之間的「局部匯率」——它告訴你在每一點上,每單位 nu 對應多少單位 mu。當 nu 是勒貝格測度、mu 是 X 的分布時,f 正是 X 的機率密度;當兩者都是機率測度時,f 是把其中一個重新加權成另一個的概似比。
這一個定理統一並解釋了很多事。它說明了為何連續分布有密度而離散分布沒有(離散分布對勒貝格測度並非絕對連續——它把質量集中在長度為零的點上)。它支撐了條件期望、驅動貝氏更新的測度變換(後驗除以先驗),以及隨機微積分中的 Girsanov 定理。誠實的告誡:密度只在絕對連續之下才存在,而導數只在「差一個 nu-測度為零的集合」的意義下唯一——兩個合法版本可以在一個可忽略集合上不同。
常態(0,1) 分布 mu 對勒貝格測度 nu 絕對連續,其 Radon-Nikodym 導數 dmu/dnu 就是鐘形曲線密度 (1/sqrt(2 pi)) e^(-x^2/2)。所以 mu([a,b]) = 由 a 到 b 對該密度取 dx 的積分——密度其實就是 dmu/dnu。
密度就是局部匯率 dmu/dnu;它存在的充要條件,是 mu 不在 nu 看不見之處放上權重。
沒有絕對連續就沒有密度:離散分布沒有 pdf,因為它把質量集中在長度為零的點上,而勒貝格測度視之為可忽略。此導數也僅在「差一個測度為零的集合」下唯一。