奇异值分解
SVD 的存在性
整个领域的招牌定理普适得惊人：每个矩阵，无一例外，都能分解为 A = U Sigma V^T。不只是方阵，不只是可逆矩阵，不只是可对角化矩阵——任意 m×n 实矩阵都行。这正是 SVD 成为线性代数中最普适分解的原因。
各因子是这样的。U 是 m×m 正交矩阵，其列为左奇异向量；V 是 n×n 正交矩阵，其列为右奇异向量；Sigma 是一个 m×n 的对角形矩阵，主对角线上排着奇异值 sigma_1 >= sigma_2 >= ... >= 0，其余位置全为零。（在复数域上，U 与 V 为酉矩阵，V^T 变为 V^*。）
为什么它总是存在？矩阵 A^T A 对称且半正定，于是谱定理交给你一组带非负特征值的标准正交特征基——它们成为 V 以及奇异值的平方。对非零的诸 sigma 令 u_i = (1/sigma_i) A v_i 得到标准正交的左向量，再扩充为 U 的一整组标准正交基。这个构造永不失败，因为对称矩阵的谱定理永不失败。
回报是：关于 A 你想知道的一切——它的秩、范数、四个子空间、最佳低秩逼近、伪逆——都能直接从这三个因子读出。在非方阵或亏损矩阵上特征值方法会卡壳，而 SVD 始终交付一个标准正交、对角的核心。
A = U Sigma V^T, U^T U = I_m, V^T V = I_n, Sigma = diag(sigma_1, ..., sigma_r, 0, ..., 0)
外侧是正交的 U 与 V，中间是装着奇异值的对角方块——对任意 A 都成立。
SVD 本质上是唯一的：奇异值是被强制确定的，奇异向量则在符号以及任何重复奇异值子空间内旋转的意义下唯一。因此 U 与 V 并非完全刚性，但 Sigma 始终如此。
又称
另见