JOVANA
Library Glossary Getting Started Three Levels Fields How it works Mission
Join the mission
All guides

標準正交系:一組可求和卻永不寫完的基

在 R^n 中,標準正交基是一張有限的清單,投影是一個有限和。在希爾伯特空間裏這張清單無窮長——然而令人驚嘆的是,投影、勾股定理與最佳逼近的幾何幾乎原封不動地倖存下來。

從有限標準正交基到無窮系

回想第一卷幾何中最乾淨的事實:若 {q_1, ..., q_n} 是一組標準正交基,則每個向量都可寫為 v = sum <v, q_k> q_k,其座標由內積讀出。係數 <v, q_k> 就是向各軸的投影。我們希望在有無窮多個 q_k 時仍能得到同一公式。

希爾伯特空間中的一個標準正交系 {e_k} 是一個(可能無窮的)集合,滿足 i != j 時 <e_i, e_j> = 0 且 ||e_k|| = 1。數 c_k = <x, e_k> 稱為 x 關於該系的傅立葉係數——正是座標的直接推廣。問題在於:無窮和 sum c_k e_k 是否收斂,又是否能重構出 x。

貝塞爾、帕塞瓦爾,以及「完全」意味著甚麼

兩條不等式統御一切。貝塞爾不等式指出,對*任意*標準正交系都有 sum |c_k|^2 <= ||x||^2:投影出的能量絕不超過總能量。當且僅當對每個 x 都取等號時,該系才是完全標準正交系——這就是帕塞瓦爾恆等式 sum |c_k|^2 = ||x||^2——意味著沒有能量損失,系中也無所缺漏。

The classic complete orthonormal system in L^2[-pi, pi]:

  e_n(t) = (1/sqrt(2*pi)) * exp(i n t),   n = ..., -1, 0, 1, ...

  orthonormal:  <e_m, e_n> = (1/2pi) integral exp(i(m-n)t) dt
                           = 1 if m = n,  0 otherwise.

Fourier coefficients of f:   c_n = <f, e_n>
Fourier series (reconstruction):   f = sum_n  c_n e_n

Parseval (no energy lost):   integral |f|^2  =  sum_n |c_n|^2

Why it is COMPLETE, not just orthonormal:
  the ONLY function orthogonal to every e_n is f = 0.
  (No nonzero direction is missed -> the system spans, in the
   closure sense, all of L^2.)
複指數函數構成 L^2 中的一個完全標準正交系——傅立葉級數不過是在該基下的展開。

投影:永遠存在的最佳逼近

希爾伯特幾何中最有用的單條定理是投影定理:若 M 是一個*閉*子空間,則每個 x 在 M 中都有唯一的最近點 Px,且誤差 x - Px 與整個 M 正交。這正是第一卷的最小二乘思想,如今在無窮維中得到保證——前提是 M 閉,而這正是完備性發揮作用之處。

  1. 取一組張成閉子空間 M 的標準正交系 {e_1, ..., e_N}(或用格拉姆-施密特構造一組)。
  2. 對 k = 1..N 計算傅立葉係數 c_k = <x, e_k>。
  3. 投影即 Px = sum_{k=1}^N c_k e_k——在該空間範數意義下 x 在 M 中的最佳逼近。
  4. 殘差 x - Px 與每個 e_k 正交,且 ||x||^2 = ||Px||^2 + ||x - Px||^2(勾股定理依然成立)。

把傅立葉級數截斷到前 N 項,*恰好*就是這種向 e_1, ..., e_N 張成空間的投影——這正是為甚麼傅立葉部分和是 L^2 意義下最佳的 N 項三角逼近。無窮維的圖景把有限維幾何中最實用的工具完整無缺地交還給了我們。