矩阵的范数：一个变换有多大？

把大小定义为最大拉伸

给定一个向量范数，矩阵 A 的诱导（算子）范数是它的最坏情形拉伸因子：||A|| = max（对 v != 0）of ||A v|| / ||v||。等价地，是所有单位向量 v 上 ||A v|| 的最大值。这是矩阵对任意输入的最大放大倍数。

三个可手算的诱导范数

对三个 p-范数，诱导矩阵范数有闭式。||A||_1 是最大的绝对列和，||A||_inf 是最大的绝对行和，而 ||A||_2 是来自奇异值分解的最大奇异值 sigma_max（三者中最难手算的）。

A = [ 1, -7;
      4,  2 ]

||A||_1   = max( |1|+|4| , |-7|+|2| )  = max(5, 9) = 9   (column sums)
||A||_inf = max( |1|+|-7| , |4|+|2| )  = max(8, 6) = 8   (row sums)
||A||_2   = sigma_max(A) ~= 7.34                          (largest singular value)

Sanity: A maps the unit-2-ball to an ellipse whose longest
        semi-axis has length sigma_max ~= 7.34.

计算一个 2x2 矩阵的三种诱导范数。

次可乘性：会链式传递的误差

每个诱导范数都满足次可乘性：||A B|| <= ||A|| * ||B||。证明只需一行相容界：||A B v|| <= ||A|| * ||B v|| <= ||A|| * ||B|| * ||v||，再对单位 v 取最大值。这让我们能界定扰动矩阵的乘积或幂的影响。