矩陣範數與擾動
矩陣範數
矩陣範數用一個數度量矩陣的大小,正如向量範數度量向量。由於所有 m 列 n 行矩陣本身構成一個向量空間,向量範數的全部公理仍然成立。但矩陣還能相乘,這一額外結構促使我們再要求一條性質。
這條性質就是次乘性:只要乘積有定義,就有 ||A B|| <= ||A|| ||B||。一個既滿足全部向量公理又滿足此乘積規則的範數,稱為(相容的)矩陣範數。它正是讓你控制在反覆相乘中累積的誤差的關鍵,是數值分析的看家本領。
有兩大族佔主導。Frobenius 範數 ||A||_F = sqrt(sum_{i,j} |a_{ij}|^2) 只是把矩陣當作一個長向量並取其歐幾里得長度;它等於 sqrt(sum sigma_i^2),即奇異值的平方和再開方。算子(誘導)範數則度量 A 能把向量拉伸多少。兩者都是次乘的,但回答不同的問題:Frobenius 是總能量,算子 2-範數是最壞情形的拉伸 sigma_max。
一個值得記住的告誡:並非每個看起來自然的範數都是次乘的。逐元素的極大值範數 max |a_{ij}| 滿足向量公理,卻可能不滿足 ||AB|| <= ||A|| ||B||,所以它是該空間上的範數,但嚴格意義上不是矩陣範數。務必弄清你實際擁有的是哪種保證。
A = [3, 0; 0, 4]: ||A||_F = 5, ||A||_2 = 4
Frobenius 把全部奇異能量相加(sqrt(9+16)=5);算子 2-範數只報告最大的拉伸(4)。
只有當 A 的秩為 1 時,Frobenius 範數與算子 2-範數才都等於 sigma_max。一般地有 ||A||_2 <= ||A||_F <= sqrt(rank A) ||A||_2,所以 Frobenius 是算子範數更易計算的上界替身。
又稱
另見