向量範數

向量範數是一條規則，它給每個向量賦予一個非負實數，用來度量它的大小。在初等課程裡你見過其中之一，即歐幾里得長度 ||x||_2 = sqrt(x_1^2 + ... + x_n^2)。但那只是一種選擇。範數是任何一個像「長度」一樣合理表現的函數 ||.||。

確切地說，||.|| 必須滿足三條公理。第一，正定性：||x|| >= 0，且 ||x|| = 0 當且僅當 x 是零向量。第二，絕對齊次性：對任意純量 c 有 ||c x|| = |c| ||x||，即縮放向量會以相同倍數縮放其長度。第三，三角不等式：||x + y|| <= ||x|| + ||y||，即繞路不會比直走更短。最常見的一族是 p-範數：當 p >= 1 時 ||x||_p = (sum |x_i|^p)^(1/p)，給出曼哈頓範數（p=1）、歐幾里得範數（p=2），以及極限下的極大值範數 ||x||_inf = max |x_i|。

為什麼要用多種範數？因為不同範數回答不同的問題。1-範數把所有分量的誤差相加（總誤差），inf-範數報告唯一最壞的那個分量，2-範數則透過能量在兩者之間取得平衡。當你分析演算法或界定誤差時，選對範數會讓界變得自然。

在有限維中有一個令人安心的事實：儘管這些範數給出不同的數值，它們都是等價的——每一個都被任何另一個的常數倍從上下兩側夾住。因此在某一範數下收斂的序列在所有範數下都收斂。選擇只改變界中的常數，絕不改變定性的結論。