多元微分學

黑塞矩陣(Hessian matrix)

/ Hessian: HESS-ee-an /

梯度刻畫曲面如何傾斜;黑塞矩陣刻畫它如何彎曲。它是多元的二階導數:一個由全部二階偏導數組成的方陣,記錄函數在每一對方向之內與之間的彎曲。一元微積分用單個二階導數區分上凹與下凹,而多元情形需要一整個矩陣,因為曲率如今依賴於方向。

對 f(x, y),黑塞矩陣是 2 乘 2 矩陣 [partial^2 f / partial x^2, partial^2 f / (partial x partial y); partial^2 f / (partial y partial x), partial^2 f / partial y^2]。對角元是沿各軸的純曲率;非對角元是混合偏導,記錄一個方向的斜率隨你在另一方向移動時如何變化。由克萊羅定理,混合偏導只要連續就相等,所以黑塞矩陣在實踐中是對稱的。對稱矩陣可分類為正定、負定或不定,而這個分類恰好把臨界點判別為局部極小(碗朝上)、局部極大(碗朝下)或鞍點(一個方向上、另一個方向下)。

黑塞矩陣是二階導數判別法與二階泰勒展開的引擎,並且是快速優化的核心:極小化的牛頓法用黑塞矩陣的逆向臨界點躍進,遠比梯度下降快,而黑塞矩陣的本徵值設定了決定一個問題極小化難度的條件數。在物理中它表現為平衡點附近的力常數矩陣,其本徵值給出振動系統的簡正模角頻率的平方。

對於 f(x, y) = x^2 - y^2,黑塞矩陣為 [2, 0; 0, -2],處處為常數。它不定(一個正本徵值、一個負本徵值),所以原點處的臨界點是鞍點——沿 x 上升、沿 y 下降。

不定的黑塞矩陣(本徵值符號混雜)標誌著鞍點:一個方向上凹、另一個方向下凹。

黑塞矩陣只有當混合偏導連續時才對稱;一個著名反例在原點處混合偏導不相等。而當黑塞矩陣奇異(有零本徵值)時,二階導數判別法無法判定——你必須進一步考察。

又稱
matrix of second partials二阶偏导矩阵二階偏導矩陣