奇異值分解
由奇異值得到弗羅貝尼烏斯範數
弗羅貝尼烏斯範數是度量矩陣最接地氣的方式:把它的元素當成一根長向量,取普通的歐幾里得長度。||A||_F = sqrt(所有 a_ij^2 之和)。它是矩陣的總能量,對每個元素一視同仁——用一個數說明整個陣列有多大。
經由 SVD 它有了更乾淨的面貌:||A||_F = sqrt(sigma_1^2 + sigma_2^2 + ... + sigma_r^2)。元素平方和等於奇異值平方和。這是 Schatten 2 範數,是譜範數(Schatten 無窮)與核範數(Schatten 1)的搭檔——同樣的平方和之根,只是用在奇異值而非原始元素上。
它之所以成立的深層原因是旋轉不變性。對任意正交 U 與 V,||U A V^T||_F = ||A||_F——乘以正交矩陣不改變弗羅貝尼烏斯範數,因為正交映射保持長度。由於 A = U Sigma V^T,A 的範數等於 Sigma 的範數,而 Sigma 唯一的非零元素就是對角線上的奇異值。於是得到奇異值平方和的公式。
等價地,||A||_F^2 = trace(A^T A) = A^T A 特徵值之和 = sigma_i^2 之和——同一份能量的三種說法。這正是埃卡特-楊弗羅貝尼烏斯情形所最小化的範數,也是當你在意整體擬合而非最壞情形拉伸時,逼近誤差的自然度量。
||A||_F = sqrt(sum_{i,j} a_ij^2) = sqrt(sum_i sigma_i^2) = sqrt(trace(A^T A))
三種相等形式:逐元素能量、奇異值能量,以及 A^T A 的跡。
旋轉不變性是亮點:||A||_F 只依賴於奇異值,與 A 的行或列的朝向無關。因此它對輸入或輸出基的任何正交變更視而不見。
又稱
另見