矩陣分解

謝爾曼-莫里森-伍德伯里公式

假設你已知 A^-1,然後用一個低秩部分擾動 A:A_new = A + U C V^T,其中 U 與 V 是高瘦的(k 行),C 是一個小的 k 階矩陣。從頭重算逆要花 n^3。Woodbury 公式精確地給出新的逆,而把所有重活都放到一個微小的 k 階矩陣上完成。

恆等式為 (A + U C V^T)^-1 = A^-1 - A^-1 U (C^-1 + V^T A^-1 U)^-1 V^T A^-1。右邊唯一需要求逆的非平凡矩陣是 k 階的容量矩陣 C^-1 + V^T A^-1 U。當 k 很小時(常常 k = 1),它幾乎免費。秩 1 的特例 A_new = A + u v^T 就是著名的 Sherman-Morrison 公式。

它是當 A 略有改動時一切廉價重解的代數支柱。卡爾曼濾波、遞迴最小二乘、高斯過程更新與內點法都用它把一個新觀測或約束摺疊進現有分解,而無需再付出完整求逆的代價。

兩點誠實的告誡。其一,它可能數值不穩定:若容量矩陣近乎奇異,相減會放大誤差,正因如此,更新後的三角分解常比顯式的 Woodbury 逆更受青睞。其二,它要求容量矩陣可逆,而當該更新會使 A_new 奇異時,這恰恰失效。

(A + u v^T)^-1 = A^-1 - (A^-1 u v^T A^-1) / (1 + v^T A^-1 u)

Sherman-Morrison 的秩 1 情形:一個純量分母取代了完整的重新求逆。

要點在於:對 n 階矩陣作秩 k 改動,只需求逆一個 k 階的容量矩陣。當 k 很小時,重解幾乎免費。

又稱
Woodbury identitymatrix inversion lemmaSherman-Morrison伍德伯里恒等式