谱半径与范数
谱半径 rho(A) 是 A 的最大 |特征值|。它始终不超过任何诱导范数:rho(A) <= ||A||。但控制单次作用的是范数,而控制长期行为的是 rho(A)——盖尔范德定理给出谱半径(盖尔范德)公式 rho(A) = lim ||A^k||^(1/k)。
其推论很尖锐:当且仅当 rho(A) < 1 时,A^k -> 0(k -> infinity)。一个矩阵可以有 rho(A) < 1 但 ||A|| > 1,因此它的幂在衰减前可能短暂增长——这是许多数值意外的根源。
诺伊曼级数
当 rho(E) < 1 时,诺伊曼级数给出干净的逆:(I - E)^-1 = I + E + E^2 + E^3 + ...——这是几何级数 1/(1-x) 的矩阵类比。当 ||E|| < 1 时,次可乘性还给出界 ||(I - E)^-1|| <= 1/(1 - ||E||)。
这正是我们能扰动可逆矩阵的依据:若 A 可逆且扰动很小,则 A + dA 仍可逆,并且我们能界定其逆的变化。诺伊曼界是从范数通往条件数的桥梁。
条件数:放大因子
对求解 A x = b,条件数 kappa(A) = ||A|| * ||A^-1||(推广第一卷的条件数)是相对输入误差被放大为相对输出误差的最坏情形因子:||dx||/||x|| <= kappa(A) * ||db||/||b||。在 2-范数下,kappa_2(A) = sigma_max / sigma_min。
A = [ 1.000, 1.000;
1.000, 1.001 ]
sigma_max ~= 2.0005, sigma_min ~= 0.0005
kappa_2(A) = sigma_max / sigma_min ~= 4002
b = (2.000, 2.001)^T -> x = (1, 1)^T
b+db = (2.000, 2.002)^T -> x' = (0, 2)^T
relative input change ||db||/||b|| ~= 0.00035
relative output change ||dx||/||x|| ~= 1.0
amplification observed ~= 2850 (kappa bounds it: <= 4002)