譜半徑與範數
譜半徑 rho(A) 是 A 的最大 |特徵值|。它始終不超過任何誘導範數:rho(A) <= ||A||。但控制單次作用的是範數,而控制長期行為的是 rho(A)——蓋爾范德定理給出譜半徑(蓋爾范德)公式 rho(A) = lim ||A^k||^(1/k)。
其推論很尖銳:當且僅當 rho(A) < 1 時,A^k -> 0(k -> infinity)。一個矩陣可以有 rho(A) < 1 但 ||A|| > 1,因此它的冪在衰減前可能短暫增長——這是許多數值意外的根源。
諾伊曼級數
當 rho(E) < 1 時,諾伊曼級數給出乾淨的逆:(I - E)^-1 = I + E + E^2 + E^3 + ...——這是幾何級數 1/(1-x) 的矩陣類比。當 ||E|| < 1 時,次可乘性還給出界 ||(I - E)^-1|| <= 1/(1 - ||E||)。
這正是我們能擾動可逆矩陣的依據:若 A 可逆且擾動很小,則 A + dA 仍可逆,並且我們能界定其逆的變化。諾伊曼界是從範數通往條件數的橋樑。
條件數:放大因子
對求解 A x = b,條件數 kappa(A) = ||A|| * ||A^-1||(推廣第一卷的條件數)是相對輸入誤差被放大為相對輸出誤差的最壞情形因子:||dx||/||x|| <= kappa(A) * ||db||/||b||。在 2-範數下,kappa_2(A) = sigma_max / sigma_min。
A = [ 1.000, 1.000;
1.000, 1.001 ]
sigma_max ~= 2.0005, sigma_min ~= 0.0005
kappa_2(A) = sigma_max / sigma_min ~= 4002
b = (2.000, 2.001)^T -> x = (1, 1)^T
b+db = (2.000, 2.002)^T -> x' = (0, 2)^T
relative input change ||db||/||b|| ~= 0.00035
relative output change ||dx||/||x|| ~= 1.0
amplification observed ~= 2850 (kappa bounds it: <= 4002)