JOVANA
Library Glossary Getting Started Three Levels Fields How it works Mission
Join the mission
Back to the library
数学 1763

论机会学说中的一个问题

托马斯·贝叶斯(由理查德·普赖斯整理发表)

一个新事实该如何改变你的判断——而且精确到改变多少。

Choose your version
In depth · the introduction

一个新事实到来。它究竟该让你改变多少判断?

从证据倒着推理

我们多数人学概率,都是正着学的:袋里有 7 颗红球、3 颗蓝球,摸到红球的机会就是十分之七。贝叶斯问的,是更难也更有用的反问题。你不知道袋里装了什么;你只看见自己摸出来的那几颗。凭这几次,你现在能对袋子作何判断?他的论文告诉你,如何把观测变成一个对「背后那个隐藏原因」精确而可更新的信念。

在遗稿中发现的一篇论文

托马斯·贝叶斯是英格兰的一位长老会牧师、业余数学家,生前几乎什么都没发表。1761 年他去世后,友人理查德·普赖斯受托整理他的遗稿,在其中发现了一篇未完成的论机会的论文。普赖斯看出了它的价值,加以整理、补上算例,并于 1763 年——在作者去世两年后——把它读给皇家学会。他写道:「我现将一篇论文寄予你,它是我在已故友人贝叶斯先生的遗稿中找到的。」此后近一个世纪,这一思想少有人问津,直到伟大的法国数学家皮埃尔-西蒙·拉普拉斯独立地把它发展为一套完整理论,并展示出它在科学中的威力。

它为何重要

贝叶斯法则,是「如何把判断改得恰到好处」的数学。它精确地告诉你,一条新证据应当让你的把握偏移多少:从你此前的信念出发(先验),按证据与各种可能的吻合程度加权(似然),你就得到一个修正后的信念(后验)。先验设错,你就会被严重带偏——这正是为什么一项针对罕见病的检验,阳性结果常常是虚惊一场;也正是为什么「按基础发生率思考」,是概率能教给我们的最实用的一课。

拨动旋钮

想象一个旋钮,上面排着某事件每一种可能的「真实概率」,从「从不」到「总是」。在任何证据之前,你的信念均匀地铺满整个旋钮。每一次观测都会推一下指针:一次成功把信念推向「更常发生」,一次失败推向「更少发生」。起初信念是覆盖大半旋钮的一团模糊;数据越多,它就越收紧成一个尖峰,停在这个世界反复展示给你的那个概率上。贝叶斯的论文,就是「每次观测该把指针推多远」的精确法则。

一张可交互的图:滑块设定事件发生与失败的次数,一条山丘状曲线显示其真实概率最可信的取值。拖动两个标记会把一段区间涂色,并显示真实概率落在其中的机会。

它在知识谱系中的位置

贝叶斯立于统计学与现代机器推理的源头。他所反转的那个正向概率,由帕斯卡、费马与雅各布·伯努利奠定;拉普拉斯会把贝叶斯的特例推广为一条普遍法则;两个世纪后,这一思想又与香农的信息论汇合——在那里,「学到一个事实」字面上就意味着把不确定性大致减半——并与 AlexNet、Transformer 背后的统计学习相接。每当一台机器「根据证据更新」,它运行的,都是这篇论文的后裔。

The original document
Original source text
Thomas Bayes · communicated by Richard Price · Phil. Trans. R. Soc. 53: 370–418 · 1763
From Mr. Price's covering letter to John Canton
Dear Sir, I now send you an essay which I have found among the papers of our deceased friend Mr. Bayes, and which, in my opinion, has great merit, and well deserves to be preserved.
[ … ]
The Problem
Given the number of times in which an unknown event has happened and failed: Required the chance that the probability of its happening in a single trial lies somewhere between any two degrees of probability that can be named.
[ … ]
Definition
The probability of any event is the ratio between the value at which an expectation depending on the happening of the event ought to be computed, and the value of the thing expected upon it's happening.
[ … ]
Mr. Price, on the purpose of the essay
The purpose I mean is, to shew what reason we have for believing that there are in the constitution of things fixt laws according to which things happen, and that, therefore, the frame of the world must be the effect of the wisdom and power of an intelligent cause; and thus to confirm the argument taken from final causes for the existence of the Deity.
Communicated by Richard Price · read to the Royal Society, 23 December 1763