贝叶斯推断（Bayesian inference）

贝叶斯推断是一套有条理地「随证据改变看法」的方法。你先对某件事有多大可能性持有一个看法，然后看到一些数据，再据此更新——落到一个更有依据的新看法上。医生天天这样做却浑然不觉：在做任何检查之前，咳嗽可能意味着十几种病；等胸片显示一切正常，其中一些可能性就缩小，另一些则放大。贝叶斯推断不过是把这个日常动作，用算术写得精确罢了。

引擎核心是贝叶斯定理：它说，你更新后的看法（后验）正比于你起初的看法（先验）乘以数据与每种可能性的契合程度（似然）。关键在于，答案不是一个孤零零的猜测，而是一整个分布——一片可能值的散布，每个值各有自己的权重。这片散布正是诚实之处：它不仅告诉你你认为什么是真的，还告诉你你有多确信。

它为何重要：大多数学习问题，本质上都是「在不确定中如何持有信念」的问题，而贝叶斯推断用一个一致的框架来处理它们，从过滤垃圾邮件到追踪卫星皆然。数据稀少时它尤为出色，因为先验会拦住它，不让它凭三个例子就贸然下结论。它诚实的代价是：你必须写明一个先验——你的假设被摆到明面上；而且精确计算往往算不动，所以实践中我们用采样或变分方法去近似它。数学本身无可争辩；先验却是一种选择，讲理的人也可能选得不同。