摩爾-彭若斯偽逆

大多數矩陣沒有逆——它們或是非方陣，或雖是方陣卻奇異。可你仍想盡可能好地解 Ax = b。摩爾-彭若斯偽逆 A^+ 正是做這件事的矩陣：它是最佳擬合逆，在系統超定時給出最小二乘解，在欠定時給出最小範數解。

SVD 幾乎免費地把它構造出來。若 A = U Sigma V^T，則 A^+ = V Sigma^+ U^T，其中 Sigma^+ 由把 Sigma 轉置、並把每個非零奇異值 sigma_i 換成 1/sigma_i 而成（零仍保持為零）。能逆的就逆，不能逆的就忽略。當 A 確實可逆時，A^+ 退化為普通的 A^-1，所以它是名副其實的推廣。

x = A^+ b 究竟給你什麼？在所有使 ||Ax - b|| 最小（對不相容系統的最小二乘擬合）的 x 中，它挑出 ||x|| 最小的那個。這種雙重最優性——先求最佳擬合，再以最小範數打破平局——正是 A^+ 成為標準求解器的原因。它由四條彭若斯條件唯一確定：A A^+ A = A，A^+ A A^+ = A^+，且 (A A^+) 與 (A^+ A) 都對稱。

一個實用警告：微小的奇異值會變成巨大的 1/sigma_i，因此 A^+ 可能瘋狂放大噪聲。這正是實踐中常用截斷偽逆的原因——把低於閾值的奇異值置零，以精確性換取數值穩定性。