回顾欧几里得范数
在第一卷中，向量的范数来自内积：||v|| = sqrt(<v,v>)。这个长度让你能谈论正交性、投影与最小二乘。但欧几里得长度只是一把尺子。扰动理论需要比较“误差有多大”，而不同问题需要不同的尺子。
向量范数是任何满足以下条件的函数 ||.||：非负（且仅在 0 处为零）、按 ||a*v|| = |a|*||v|| 缩放、且满足三角不等式 ||u+v|| <= ||u|| + ||v||。任何这样的函数都是度量大小的合法方式。
p-范数族
最有用的一族是 p-范数。对 p >= 1，||v||_p = (sum |v_i|^p)^(1/p)。三个成员几乎包办一切：p=1（绝对值之和）、p=2（欧几里得，即第一卷的范数）、p=infinity（最大的绝对分量）。
v = (3, -4, 0)
||v||_1 = |3| + |-4| + |0| = 7
||v||_2 = sqrt(3^2 + 4^2 + 0^2) = 5
||v||_inf = max(|3|, |-4|, |0|) = 4
Observe: ||v||_inf <= ||v||_2 <= ||v||_1
4 <= 5 <= 7为何有限维拯救了我们
向量的大小竟取决于你选了哪个范数，这看起来令人不安。挽救它的是范数的等价性：在有限维空间上，任意两个范数 ||.||_a 与 ||.||_b 满足 c*||v||_a <= ||v||_b <= C*||v||_a，其中 c, C 是固定的正常数。没有向量能在一个范数下很小、在另一个范数下却巨大。
具体地，在 R^n 中：||v||_inf <= ||v||_2 <= sqrt(n)*||v||_inf，且 ||v||_2 <= ||v||_1 <= sqrt(n)*||v||_2。因此一个序列在某个范数下收敛，就在每个范数下都收敛；一个问题在某个范数下稳定，就在所有范数下都稳定。我们可以挑选最便于证明的那个范数。