JOVANA
Library Glossary Getting Started Three Levels Fields How it works Mission
Join the mission
Back to the library
數學 1763

論機會學說中的一個問題

托馬斯·貝葉斯(由理查·普萊斯整理發表)

一個新事實該如何改變你的判斷——而且精確到改變多少。

Choose your version
In depth · the introduction

一個新事實到來。它究竟該讓你改變多少判斷?

從證據倒著推理

我們多數人學機率,都是正著學的:袋裡有 7 顆紅球、3 顆藍球,摸到紅球的機會就是十分之七。貝葉斯問的,是更難也更有用的反問題。你不知道袋裡裝了什麼;你只看見自己摸出來的那幾顆。憑這幾次,你現在能對袋子作何判斷?他的論文告訴你,如何把觀測變成一個對「背後那個隱藏原因」精確而可更新的信念。

在遺稿中發現的一篇論文

托馬斯·貝葉斯是英格蘭的一位長老會牧師、業餘數學家,生前幾乎什麼都沒發表。1761 年他去世後,友人理查·普萊斯受託整理他的遺稿,在其中發現了一篇未完成的論機會的論文。普萊斯看出了它的價值,加以整理、補上算例,並於 1763 年——在作者去世兩年後——把它讀給皇家學會。他寫道:「我現將一篇論文寄予你,它是我在已故友人貝葉斯先生的遺稿中找到的。」此後近一個世紀,這一思想少有人問津,直到偉大的法國數學家皮埃爾-西蒙·拉普拉斯獨立地把它發展為一套完整理論,並展示出它在科學中的威力。

它為何重要

貝氏法則,是「如何把判斷改得恰到好處」的數學。它精確地告訴你,一條新證據應當讓你的把握偏移多少:從你此前的信念出發(先驗),按證據與各種可能的吻合程度加權(似然),你就得到一個修正後的信念(後驗)。先驗設錯,你就會被嚴重帶偏——這正是為什麼一項針對罕見病的檢驗,陽性結果常常是虛驚一場;也正是為什麼「按基礎發生率思考」,是機率能教給我們的最實用的一課。

撥動旋鈕

想像一個旋鈕,上面排著某事件每一種可能的「真實機率」,從「從不」到「總是」。在任何證據之前,你的信念均勻地鋪滿整個旋鈕。每一次觀測都會推一下指針:一次成功把信念推向「更常發生」,一次失敗推向「更少發生」。起初信念是覆蓋大半旋鈕的一團模糊;資料越多,它就越收緊成一個尖峰,停在這個世界反覆展示給你的那個機率上。貝葉斯的論文,就是「每次觀測該把指針推多遠」的精確法則。

一張可互動的圖:滑桿設定事件發生與失敗的次數,一條山丘狀曲線顯示其真實機率最可信的取值。拖動兩個標記會把一段區間塗色,並顯示真實機率落在其中的機會。

它在知識譜系中的位置

貝葉斯立於統計學與現代機器推理的源頭。他所反轉的那個正向機率,由帕斯卡、費馬與雅各布·白努利奠定;拉普拉斯會把貝葉斯的特例推廣為一條普遍法則;兩個世紀後,這一思想又與香農的資訊論匯合——在那裡,「學到一個事實」字面上就意味著把不確定性大致減半——並與 AlexNet、Transformer 背後的統計學習相接。每當一台機器「根據證據更新」,它運行的,都是這篇論文的後裔。

The original document
Original source text
Thomas Bayes · communicated by Richard Price · Phil. Trans. R. Soc. 53: 370–418 · 1763
From Mr. Price's covering letter to John Canton
Dear Sir, I now send you an essay which I have found among the papers of our deceased friend Mr. Bayes, and which, in my opinion, has great merit, and well deserves to be preserved.
[ … ]
The Problem
Given the number of times in which an unknown event has happened and failed: Required the chance that the probability of its happening in a single trial lies somewhere between any two degrees of probability that can be named.
[ … ]
Definition
The probability of any event is the ratio between the value at which an expectation depending on the happening of the event ought to be computed, and the value of the thing expected upon it's happening.
[ … ]
Mr. Price, on the purpose of the essay
The purpose I mean is, to shew what reason we have for believing that there are in the constitution of things fixt laws according to which things happen, and that, therefore, the frame of the world must be the effect of the wisdom and power of an intelligent cause; and thus to confirm the argument taken from final causes for the existence of the Deity.
Communicated by Richard Price · read to the Royal Society, 23 December 1763