奇异值扰动

奇异值是矩阵所附带的最稳健的数。与一般矩阵的特征值（可能极度敏感）不同，奇异值在扰动下几乎不动——即便对非对称、非正规或长方形矩阵也是如此。这正是 SVD 成为含噪数值计算主力的原因。

奇异值的外尔界断言每个奇异值关于矩阵是 1-利普希茨的：对每个 k 有 |sigma_k(A + E) - sigma_k(A)| <= ||E||_2，其中奇异值按 sigma_1 >= sigma_2 >= ... 排序。米尔斯基更强的定理把它们整体界定：sqrt(sum_k (sigma_k(A + E) - sigma_k(A))^2) <= ||E||_F，更一般地，其变化在每个酉不变范数下都被界定。

奇异值如此稳定的原因是：sigma_k(A) 是对称矩阵 A^T A 的特征值（的非负平方根），而对称特征值遵守外尔的完美条件界。所以奇异值自动继承最佳情形的行为，丝毫不见特征向量条件因子。

这种稳定性是实用算法的支柱：数值秩之所以统计高于容差的奇异值，恰恰是因为大小为 epsilon 的噪声只能让它们移动 epsilon；低秩逼近之所以可靠，是因为截断小奇异值只丢弃矩阵中受控的一部分。对噪声的稳健是 SVD 的标志性馈赠。