拉格朗日乘数（Lagrange multiplier）
/ Lagrange: luh-GRAHNZH /
假设你想找山坡的最高点，却不能随意游荡——你必须待在一条标好的小路上。这条小路是约束，是你不许离开的曲线 g(x, y) = c。拉格朗日乘子法正是在这样的等式约束下求函数 f 最优点的优雅微积分，而且全程不必把约束解出来用一个变量表示另一个。
几何核心是一幅水平集相切的图景。当你沿约束曲线行走时，f 时升时降；你恰好在约束曲线与 f 的某条等值线相切之处停止改善。在那个相切点，两个梯度指向同一（或相反）方向，于是 grad f 是 grad g 的标量倍：grad f = lambda 乘 grad g。这个标量 lambda 就是拉格朗日乘数。与约束 g = c 联立，便得到一个方程组，其解就是受约束的候选点。一个整洁的记账工具是拉格朗日函数 L = f - lambda(g - c)；令它所有偏导数（包括对 lambda 的那个）为零，便一举重现梯度条件和约束。
拉格朗日乘数遍布应用科学。它给出热力学的平衡（在能量固定下最大化熵）、经济学中固定预算的最优分配、悬链的形状，以及受约束机器学习的基础。而乘数并非单纯的脚手架：lambda 等于当你放松约束水平 c 时 f 的最优值的变化率——它的影子价格或边际价值，一个具有深刻实践意义的量。
在 x + y = 10 下求 f(x, y) = xy 的极大。条件 grad f = lambda grad g 写作 (y, x) = lambda(1, 1)，故 x = y；约束给出 x = y = 5，乘积最大为 25。此处乘数为 lambda = 5。
目标梯度与约束梯度平行，钉住了最优点。
该方法找出梯度平行的候选点，但本身并不说明哪个是极大、极小还是两者皆非——你仍需比较函数值，或用加边黑塞矩阵来判定。