矩阵范数与扰动

数值秩

精确秩统计非零奇异值的个数,但在浮点运算中几乎没有什么恰好为零。舍入和测量噪声把真正为零的奇异值抹成一个微小却为正的数,于是天真的计数总会报告满秩。数值秩通过只统计确实大的奇异值来纠正这一点。

给定容差 tol,数值秩是严格大于 tol 的奇异值个数:r = 满足 sigma_k > tol 的 k 的个数。容差选得高于噪声底——一个常见默认是 tol = max(m, n) 乘以最大奇异值再乘以机器 epsilon,从而舍弃那些可由舍入解释的值。

这正是你在实践中应当信任的秩,而奇异值扰动理论为之提供了依据。由于在扰动 E 下每个奇异值至多移动 ||E||_2,奇异值谱中一个清晰的间隙是稳定的:低于间隙的噪声无法把一个小奇异值抬过它。那个间隙的大小就是你的置信余量。

数值秩支撑着低秩逼近、揭秩分解,以及不适定问题的正则化。当奇异值平滑衰减而没有清晰间隙时,数值秩确实是含糊的,而这种含糊本身就是有用的信息:它告诉你该问题没有尖锐的内在维数。

sigma = (8.0, 3.0, 0.02, 1e-15); tol = 1e-6 => numerical rank 3

三个奇异值越过容差;那个 1e-15 是舍入噪声,被正确地忽略。

数值秩只有相对于某个容差才有意义——请注明你所用的 tol。同一矩阵在一个容差下可能是秩 3,在更宽松的容差下是秩 5;应当驱动你决策的是奇异值间隙,而非原始计数。

又称
effective rankepsilon-rank