共軛先驗（conjugate prior）

用貝氏定理更新信念，通常意味著為了那個正規化常數要算一個醜陋的積分。共軛先驗是個令人開心的捷徑：選一個先驗，使得乘上概似之後，後驗落在與先驗「同一個族」裡——只有它的參數改變。你從比如說一個貝它分配開始；資料之後，你手上仍是一個貝它分配；你只是滑動參數。難算的積分蒸發了，更新變成了算術。

三組經典配對撐起了大半江山。貝它-二項（beta-binomial）：若你對成功機率 p 的先驗是 Beta(a, b)，而你在 n 次試驗中觀測到 s 次成功，後驗就是 Beta(a + s, b + n - s)——你真的就是把成功數加到 a、失敗數加到 b。伽瑪-卜瓦松（gamma-Poisson）：若你對卜瓦松率 lambda 的先驗是 Gamma(a, b)，而你在 n 個時段觀測到的計數總和為 S，後驗就是 Gamma(a + S, b + n)。常態-常態（normal-normal）：對一個未知均值用常態先驗、資料為已知變異數的常態，後驗均值是先驗均值與樣本均值的精度加權平均，而後驗又是常態。每一種情形裡，先驗參數都像是你假裝早已看過的「擬資料」——一個 Beta(2, 2) 先驗相當於兩次先驗成功與兩次先驗失敗。

共軛性在數學上很美，在教學上無價，但要誠實面對它的侷限。它是一種便利，不是一條定律：你該選一個先驗，是因為它反映真實信念，而不只是因為它共軛。許多實際模型根本沒有共軛先驗，而這正是逼你走向馬可夫鏈蒙地卡羅的處境。而且共軛更新假設概似的族是固定且正確的；一個錯誤的模型，會同樣順暢地更新向一個錯誤的答案。