矩陣範數與擾動
奇異值擾動
奇異值是矩陣所附帶的最穩健的數。與一般矩陣的特徵值(可能極度敏感)不同,奇異值在擾動下幾乎不動——即便對非對稱、非正規或長方形矩陣也是如此。這正是 SVD 成為含雜訊數值計算主力的原因。
奇異值的外爾界斷言每個奇異值關於矩陣是 1-利普希茨的:對每個 k 有 |sigma_k(A + E) - sigma_k(A)| <= ||E||_2,其中奇異值按 sigma_1 >= sigma_2 >= ... 排序。米爾斯基更強的定理把它們整體界定:sqrt(sum_k (sigma_k(A + E) - sigma_k(A))^2) <= ||E||_F,更一般地,其變化在每個么正不變範數下都被界定。
奇異值如此穩定的原因是:sigma_k(A) 是對稱矩陣 A^T A 的特徵值(的非負平方根),而對稱特徵值遵守外爾的完美條件界。所以奇異值自動繼承最佳情形的行為,絲毫不見特徵向量條件因子。
這種穩定性是實用演算法的支柱:數值秩之所以統計高於容差的奇異值,恰恰是因為大小為 epsilon 的雜訊只能讓它們移動 epsilon;低秩逼近之所以可靠,是因為截斷小奇異值只丟棄矩陣中受控的一部分。對雜訊的穩健是 SVD 的標誌性饋贈。
|sigma_k(A + E) - sigma_k(A)| <= ||E||_2 for all k
每個奇異值的移動都不超過擾動的譜範數——對任何矩陣、任何形狀都成立。
與特徵值形成鮮明對比:非正規矩陣的特徵值可能在微小擾動下跳躍(鮑爾-法伊克中的大 kappa(V)),而它的奇異值依舊平靜。當穩定性要緊時,用奇異值。
又稱
另見