從對角化到實數譜定理

第一卷把對角化留在何處

第一卷給了你對角化：當算子 A 擁有一組特徵基時即可對角化，於是 A = P D P^-1。但有兩件事懸而未決。其一，並非每個算子都能對角化——虧損算子就不能。其二，即便 P 存在，它的各列通常只是*某一組*基：彼此不正交，故 P^-1 是一個彆扭的逆，而非乾淨的轉置。

對於一類特殊算子，譜定理一舉修復這兩處缺陷。對這些算子，一組由特徵向量構成的標準正交基*總是*存在，故換基矩陣是一個滿足 Q^-1 = Q^T 的正交矩陣 Q。對角化化為 A = Q D Q^T——保持幾何結構、數值穩定，且無條件得到保證。

對稱即自伴

這類特殊算子就是對稱（實）算子：A = A^T。其重要性在於，對稱性是一個內積條件的矩陣投影。一個實算子當滿足 <Ax, y> = <x, Ay> 對所有 x, y 成立時稱為*自伴*；在配標準點積的 R^n 上，這恰好就是 A = A^T。自伴算子的譜定理最好用這種內積語言陳述，因為真正起作用的是對稱性本身，而非記號上的形式。

Why eigenvalues are real (the one-line argument):

  let A v = lambda v,  v != 0.  Take the inner product with v:
      lambda <v, v>  =  <A v, v>  =  <v, A v>  =  conj(lambda) <v, v>
  since <v, v> > 0,  lambda = conj(lambda)  =>  lambda is REAL.

Why eigenvectors are orthogonal across distinct eigenvalues:

  A u = a u,  A w = b w,  a != b:
      a <u, w> = <A u, w> = <u, A w> = b <u, w>
      (a - b) <u, w> = 0   and a != b   =>   <u, w> = 0.

自伴性強制特徵值為實、特徵向量正交。

實數譜定理：陳述與運用

把它合起來：一個實算子可正交對角化，當且僅當它是對稱的。這就是實數譜定理，其矩陣形式是正交特徵分解 A = Q D Q^T，其中 Q 正交、D 為實對角矩陣。無需通過任何重數檢驗，也無需操心域——僅憑對稱性即可交付一組完整的標準正交特徵基，縱使特徵值重複亦然。

A = [2, 1; 1, 2]            # symmetric:  A = A^T

characteristic poly: det(A - x I) = (2 - x)^2 - 1 = x^2 - 4x + 3
  eigenvalues:  lambda_1 = 3,  lambda_2 = 1   (both real, as promised)

eigenvectors:
  lambda = 3:  (A - 3I) v = 0  ->  v_1 = (1, 1)
  lambda = 1:  (A - 1I) v = 0  ->  v_2 = (1, -1)
  check <v_1, v_2> = 1 - 1 = 0   -> already orthogonal!

normalize and stack into Q:
  q_1 = (1,  1)/sqrt(2),  q_2 = (1, -1)/sqrt(2)
  Q = [ 1/sqrt2,  1/sqrt2 ;  1/sqrt2, -1/sqrt2 ]    (Q^T Q = I)

then  A = Q D Q^T  with  D = diag(3, 1).

一個對稱 2x2 矩陣的正交對角化：A = Q D Q^T。

請注意特徵向量天然正交。當某個特徵值重複時，其特徵子空間是多維的，你可在其中任取一組經格拉姆-施密特標準正交化的基；不同特徵值的特徵子空間本已正交，故各部件拼合成一組標準正交特徵基。實數定理的微妙之處全都關乎這種重特徵值的自由度——我們將在第二篇看到複數版本的故事。