SVD 与四个基本子空间

每个矩阵都带着四个基本子空间：列空间与左零空间（住在输出空间 R^m 中），以及行空间与零空间（住在输入空间 R^n 中）。第一卷通过秩零定理告诉了你它们的维数。SVD 则做得更强：它一次性把这四个子空间的干净标准正交基都交到你手里。

对照表如下，设秩为 r。前 r 个右奇异向量 v_1, ..., v_r 构成行空间的标准正交基；其余 v_{r+1}, ..., v_n 构成零空间的标准正交基。前 r 个左奇异向量 u_1, ..., u_r 构成列空间的标准正交基；其余 u_{r+1}, ..., u_m 构成左零空间的标准正交基。对 i <= r 的作用 A v_i = sigma_i u_i 精确展示了 A 如何把行空间送到列空间上。

这使正交关系一目了然：行空间是零空间在 R^n 内的正交补，列空间是左零空间在 R^m 内的正交补。诸 v 把 R^n 干净地拆成行空间方向加零方向；诸 u 把 R^m 拆成列空间方向加左零方向——全都成直角、互不重叠。

几何故事随之浮现：A 取出任意输入的行空间部分，把每条行空间轴 v_i 拉伸 sigma_i 倍，落到对应的列空间轴 u_i 上；与此同时它把零空间部分湮灭掉。某种意义上，SVD 就是被彻底标准正交化、明晰化的秩零定理。