摩尔-彭若斯伪逆

大多数矩阵没有逆——它们或是非方阵，或虽是方阵却奇异。可你仍想尽可能好地解 Ax = b。摩尔-彭若斯伪逆 A^+ 正是做这件事的矩阵：它是最佳拟合逆，在系统超定时给出最小二乘解，在欠定时给出最小范数解。

SVD 几乎免费地把它构造出来。若 A = U Sigma V^T，则 A^+ = V Sigma^+ U^T，其中 Sigma^+ 由把 Sigma 转置、并把每个非零奇异值 sigma_i 换成 1/sigma_i 而成（零仍保持为零）。能逆的就逆，不能逆的就忽略。当 A 确实可逆时，A^+ 退化为普通的 A^-1，所以它是名副其实的推广。

x = A^+ b 究竟给你什么？在所有使 ||Ax - b|| 最小（对不相容系统的最小二乘拟合）的 x 中，它挑出 ||x|| 最小的那个。这种双重最优性——先求最佳拟合，再以最小范数打破平局——正是 A^+ 成为标准求解器的原因。它由四条彭若斯条件唯一确定：A A^+ A = A，A^+ A A^+ = A^+，且 (A A^+) 与 (A^+ A) 都对称。

一个实用警告：微小的奇异值会变成巨大的 1/sigma_i，因此 A^+ 可能疯狂放大噪声。这正是实践中常用截断伪逆的原因——把低于阈值的奇异值置零，以精确性换取数值稳定性。