海森矩陣

如果說梯度告訴你多元函數的斜率，那麼海森矩陣告訴你它的曲率——曲面如何彎曲：是像碗一樣上凹、像穹頂一樣下凸，還是扭成一個鞍。它是梯度的二階伴侶，是二階導數的多元類比，決定了某點附近的形狀。

嚴格地說，純量函數 f 在某點的海森矩陣是 n × n 矩陣 H，其 (i, j) 元為二階偏導數 d^2 f / (dx_i dx_j)。當 f 為 C^2 時，克萊羅定理使 H 對稱。它作為泰勒展開的二次項出現：f(a + h) 約等於 f(a) + grad f(a) . h + (1/2) h^T H h，其中半二次型即曲率修正。

在臨界點（梯度為零之處），海森矩陣的定性可分類該點：正定意味嚴格局部極小，負定意味嚴格局部極大，不定（特徵值正負皆有）意味鞍點。一點誠實的告誡：若海森矩陣僅半定（有零特徵值），則判別失效，須考察更高階的行為。