矩陣分解與應用

正定矩陣(positive definite matrix)

正定矩陣是一種特徵值全部嚴格為正的對稱矩陣。它相當於矩陣世界裡的正數:正如一個正數總是把東西朝同一方向縮放,正定矩陣也絕不會以某種方式翻轉向量,使得「能量」x^T*A*x 變成負數或零。

這個能量表達式正是直覺的核心。對任意非零向量 x,總有 x^T*A*x > 0。想像一片碗狀的地形(一個凸拋物面),只有唯一的最低點:這個形狀正是正定矩陣所描述的,這也是為什麼這類矩陣在最佳化中是友好的情形——你希望有唯一的極小值可以一路滑下去。

它們還以共變異數矩陣的形式出現在統計中(變異數不可能為負),並讓你能使用像 Cholesky 分解這樣快速而穩定的方法。它有個近親叫半正定,允許出現零特徵值,使得 x^T*A*x >= 0,此時碗在某些方向上可能是平的。

A = [[2,0],[0,3]], x = (x1,x2): x^T*A*x = 2*x1^2 + 3*x2^2 > 0 for x != 0

能量是若干正平方之和,所以曲面是只有一個極小值的碗。

半正定把規則放寬為 x^T*A*x >= 0,允許零特徵值(碗底可能是平的)。

又稱
positive-definite matrix正定矩阵正定矩陣SPD matrix对称正定矩阵對稱正定矩陣