回顧歐幾里得範數
在第一卷中，向量的範數來自內積：||v|| = sqrt(<v,v>)。這個長度讓你能談論正交性、投影與最小二乘。但歐幾里得長度只是一把尺子。擾動理論需要比較「誤差有多大」，而不同問題需要不同的尺子。
向量範數是任何滿足以下條件的函數 ||.||：非負（且僅在 0 處為零）、按 ||a*v|| = |a|*||v|| 縮放、且滿足三角不等式 ||u+v|| <= ||u|| + ||v||。任何這樣的函數都是度量大小的合法方式。
p-範數族
最有用的一族是 p-範數。對 p >= 1，||v||_p = (sum |v_i|^p)^(1/p)。三個成員幾乎包辦一切：p=1（絕對值之和）、p=2（歐幾里得，即第一卷的範數）、p=infinity（最大的絕對分量）。
v = (3, -4, 0)
||v||_1 = |3| + |-4| + |0| = 7
||v||_2 = sqrt(3^2 + 4^2 + 0^2) = 5
||v||_inf = max(|3|, |-4|, |0|) = 4
Observe: ||v||_inf <= ||v||_2 <= ||v||_1
4 <= 5 <= 7為何有限維拯救了我們
向量的大小竟取決於你選了哪個範數，這看起來令人不安。挽救它的是範數的等價性：在有限維空間上，任意兩個範數 ||.||_a 與 ||.||_b 滿足 c*||v||_a <= ||v||_b <= C*||v||_a，其中 c, C 是固定的正常數。沒有向量能在一個範數下很小、在另一個範數下卻巨大。
具體地，在 R^n 中：||v||_inf <= ||v||_2 <= sqrt(n)*||v||_inf，且 ||v||_2 <= ||v||_1 <= sqrt(n)*||v||_2。因此一個序列在某個範數下收斂，就在每個範數下都收斂；一個問題在某個範數下穩定，就在所有範數下都穩定。我們可以挑選最便於證明的那個範數。