多元最佳化

拉格朗日乘數(Lagrange multiplier)

/ Lagrange: luh-GRAHNZH /

假設你想找山坡的最高點,卻不能隨意遊蕩——你必須待在一條標好的小路上。這條小路是約束,是你不許離開的曲線 g(x, y) = c。拉格朗日乘子法正是在這樣的等式約束下求函數 f 最優點的優雅微積分,而且全程不必把約束解出來用一個變數表示另一個。

幾何核心是一幅水平集相切的圖景。當你沿約束曲線行走時,f 時升時降;你恰好在約束曲線與 f 的某條等值線相切之處停止改善。在那個相切點,兩個梯度指向同一(或相反)方向,於是 grad f 是 grad g 的標量倍:grad f = lambda 乘 grad g。這個標量 lambda 就是拉格朗日乘數。與約束 g = c 聯立,便得到一個方程組,其解就是受約束的候選點。一個整潔的記帳工具是拉格朗日函數 L = f - lambda(g - c);令它所有偏導數(包括對 lambda 的那個)為零,便一舉重現梯度條件和約束。

拉格朗日乘數遍布應用科學。它給出熱力學的平衡(在能量固定下最大化熵)、經濟學中固定預算的最優分配、懸鏈的形狀,以及受約束機器學習的基礎。而乘數並非單純的腳手架:lambda 等於當你放鬆約束水平 c 時 f 的最優值的變化率——它的影子價格或邊際價值,一個具有深刻實踐意義的量。

在 x + y = 10 下求 f(x, y) = xy 的極大。條件 grad f = lambda grad g 寫作 (y, x) = lambda(1, 1),故 x = y;約束給出 x = y = 5,乘積最大為 25。此處乘數為 lambda = 5。

目標梯度與約束梯度平行,釘住了最優點。

該方法找出梯度平行的候選點,但本身並不說明哪個是極大、極小還是兩者皆非——你仍需比較函數值,或用加邊黑塞矩陣來判定。

又稱
method of Lagrange multipliers拉格朗日乘子法拉格朗日乘子法