聯合分布、共變異數與相關

條件密度(conditional density)

對連續變數有個麻煩:事件 X = x 的機率為零,所以慣用的條件機率公式會除以零。然而詢問在已知 X 基本上等於某個精確值 x 之後 Y 如何分布,顯然是有意義的。條件密度藉由改用密度而非機率來化解這個問題。

其定義仿照離散情形,只是改用聯合 pdf 與邊際 pdf:f_{Y|X}(y | x) = f(x, y) / f_X(x),在邊際 f_X(x) 為正之處有定義。從幾何上看,用 X = x 處的鉛直平面去切聯合密度曲面;那片切面是一條關於 y 的曲線,除以 f_X(x) 會把這條曲線重新縮放,使其面積變為 1 —— 一個 Y 的合法單變數密度。所以你取聯合分布在 x 處的那一薄片並予以正規化。

這是連續貝氏更新、迴歸與條件期望背後的引擎:E[Y given X = x] 就是這個條件密度的平均值。當條件密度隨 x 移動而不改變 —— 當每片鉛直切面形狀都相同 —— X 與 Y 便獨立,聯合分布也分解為邊際的乘積。

若 (X, Y) 為相關係數 rho 的二元常態,則 Y 在已知 X = x 時的條件密度仍是常態,其平均值隨 x 線性滑動(mu_Y + rho (sigma_Y / sigma_X)(x - mu_X)),且變異數較小且固定,為 sigma_Y^2 (1 - rho^2)。得知 X 會移動中心並收緊分散程度。

在二元常態情形下,對 X 條件化會同時移動並收緊 Y 的分布。

對每個固定的 x,f_{Y|X}(y | x) 是關於 y 的密度而非機率 —— 它對 y 的積分為 1,但單一值可以超過 1。它只在邊際 f_X(x) > 0 之處有定義。

又称
conditional pdf條件機率密度函數