矩陣範數與擾動
誘導(算子)範數
誘導範數回答一個物理問題:矩陣 A 最多能把一個向量拉伸多大倍數?為輸入和輸出選定一個向量範數 ||.||,然後定義 ||A|| = 在 x != 0 上取 ||A x|| / ||x|| 的最大值。由於該比值忽略 x 的長度,你也可以等價地在所有單位向量上取 ||A x|| 的最大值。
每一種向量範數的選擇都誘導出一種矩陣範數,其中三種是主力。1-誘導範數是最大絕對行和(按列加總)max_j sum_i |a_{ij}|。inf-誘導範數是最大絕對列和(按列逐項加總)max_i sum_j |a_{ij}|。2-誘導範數,即譜範數,是最大奇異值 sigma_max(A)——在幾何上是 A 把單位球面映成的橢球的最長軸。
誘導範數自帶兩份贈禮。它們自動是次乘的,||A B|| <= ||A|| ||B||,因為連續拉伸兩次會把拉伸因子相乘。它們也與生成它們的向量範數相容,||A x|| <= ||A|| ||x||,每當你要界定一個變換能把資料移動多遠時,就會用到這條不等式。
代價在於計算成本。1-範數與 inf-範數可以從元素中立即讀出,但 2-範數需要最大奇異值,那是一個迭代計算。在實務中,當只需快速且有保證的估計時,人們常用 sqrt(||A||_1 ||A||_inf) 來界定譜範數。
A = [1, 2; 3, 4]: ||A||_1 = 6 (col 2), ||A||_inf = 7 (row 2), ||A||_2 = 5.46 (sigma_max)
兩個範數只是對元素做純算術;譜範數需要 SVD 的最大奇異值。
便宜範數的口訣:1-範數按行(最大行和,即縱向加總),inf-範數按列(最大列和,即橫向加總)。
又稱
另見