條件機率、獨立性與貝氏定理

條件機率(conditional probability)

想像有人告訴你一顆骰子擲出了偶數,那它是 6 的機率是多少?在得知消息前,每一面都有六分之一的機會。但「它是偶數」這個消息排除了 1、3、5,只剩下 2、4、6 三種可能。在這三者之中恰好有一個是 6,所以機率躍升為三分之一。條件機率就是處理這種更新的工具:它回答「在 B 已發生的前提下,A 有多大可能?」,記作 P(A given B)。

其定義是一個比值。要算 P(A given B),先把注意力限制在 B 發生了的那些情形,再問其中有多少比例同時也滿足 A。以符號寫,P(A given B) = P(A and B) / P(B),只要 P(B) 不為零就有定義。分母 P(B) 扮演重新歸一化的角色:它把剩下的機率重新縮放,使這個縮小後的新世界再次加總為 1。在骰子例子中,P(A and B) = P(擲出 6) = 1/6,P(B) = P(偶數) = 1/2,所以 P(6 given even) = (1/6) / (1/2) = 1/3,與我們數出來的一致。

條件化是機率處理資訊的方式。每當你得知某件事,就可以據此重新計算其他所有事情的機率。一個關鍵的誠實提醒:P(A given B) 與 P(B given A) 並不是同一個數,混淆它們正是許多著名謬誤的根源(檢察官謬誤、基本比率謬誤)。「患病前提下檢測為陽性」的機率,並不等於「檢測陽性前提下患病」的機率。

擲兩枚公正硬幣。已知至少一枚是正面,兩枚都是正面的機率是多少?等可能的結果是 HH、HT、TH、TT。「至少一枚正面」留下 HH、HT、TH,共三種情形。只有 HH 兩枚都是正面,所以答案是 1/3,而不是 1/2。

以「至少一枚正面」為條件,把四種情形縮減為三種,答案是 1/3。

當 P(B) = 0 時 P(A given B) 沒有定義;你不能以從不發生的事件為條件(測度論版本對機率為零事件的條件化另有處理方式)。

又稱
P(A given B)probability of A given B在 B 之下 A 的機率