矩阵分解与应用
正定矩阵(positive definite matrix)
正定矩阵是一种特征值全部严格为正的对称矩阵。它相当于矩阵世界里的正数:正如一个正数总是把东西朝同一方向缩放,正定矩阵也绝不会以某种方式翻转向量,使得「能量」x^T*A*x 变成负数或零。
这个能量表达式正是直觉的核心。对任意非零向量 x,总有 x^T*A*x > 0。想象一片碗状的地形(一个凸抛物面),只有唯一的最低点:这个形状正是正定矩阵所描述的,这也是为什么这类矩阵在优化中是友好的情形——你希望有唯一的极小值可以一路滑下去。
它们还以协方差矩阵的形式出现在统计中(方差不可能为负),并让你能使用像 Cholesky 分解这样快速而稳定的方法。它有个近亲叫半正定,允许出现零特征值,使得 x^T*A*x >= 0,此时碗在某些方向上可能是平的。
A = [[2,0],[0,3]], x = (x1,x2): x^T*A*x = 2*x1^2 + 3*x2^2 > 0 for x != 0
能量是若干正平方之和,所以曲面是只有一个极小值的碗。
半正定把规则放宽为 x^T*A*x >= 0,允许零特征值(碗底可能是平的)。
又称
另见