偏导数（partial derivative）

大多数有意思的事情，都同时依赖好几个输入。一块蛋糕好不好吃，取决于糖、烘焙时间和烤箱温度三者的合力。偏导数只把其中一个旋钮单拎出来，它问的是：「如果我只改糖，把烘焙时间和温度都纹丝不动地按住，好吃程度会变得多快？」你冻住除一个变量之外的一切，再沿那唯一的方向去量普通的斜率。

它用一个弯弯的符号（∂）来写，提醒你还有别的变量潜伏着、只是被按住不动。因此，一个多输入的函数会有许多个偏导数——每个输入对应一个。把它们全收进一张表里，你就得到梯度，那个指向「上升最陡方向」的向量。所以梯度无非就是把所有偏导数并排码在一起。

这是训练神经网络的家常便饭。一个现代模型有成百万乃至上十亿个内部数字，而学习，就是针对每一个数字分别去问：「如果我只推动这一个数字，总误差会怎么变？」每个答案，都是一个偏导数。反向传播则是一套巧妙的记账法，能在一趟扫描里把它们全部高效算出。一句实话：偏导数是故意无视各变量在真实世界里可能如何联动的；它回答的是一个严格「其它一切不变」的问题——而它之所以强大，恰恰因为它问得这么窄。