自共變異數與自相關函數(autocovariance / autocorrelation)
一個過程在某個時刻造訪一個值,稍後又造訪另一個值;自然的問題是這兩次讀數如何彼此關聯。若現在值很高,它傾向於片刻之後仍然偏高嗎?自共變異數函數正是衡量這種記憶 —— 過程在某一時刻與自己在另一時刻共同變動的強弱。
對時刻 s 與 t,自共變異數是 gamma(s, t) = Cov(X_s, X_t) = E[(X_s - E[X_s])(X_t - E[X_t])] —— 就是普通的共變異數,只不過是一個過程與自己的時間平移副本之間的共變異數,故有「自」這個前綴。對寬鬆平穩過程,它只依賴於間隔,所以你把它寫成單變數函數 gamma(h) = Cov(X_t, X_{t+h}),即落後 h 期的自共變異數。自相關函數不過是其標準化版本 rho(h) = gamma(h) / gamma(0),除掉變異數 gamma(0) = Var(X_t),使值落在 -1 與 1 之間 —— 一個乾淨、無單位的度量,衡量相隔 h 的兩次讀數有多相關。注意 gamma(0) 就是變異數,且 rho(0) 恆為 1。
這些函數是平穩過程結構的實用摘要。gamma(h) 隨落後 h 增大而快速衰減到 0,意味短記憶 —— 相隔遠的時刻幾乎不相關;緩慢衰減則意味長記憶。gamma(h) 的形狀是預測、譜分析(由維納-辛欽定理,其傅立葉轉換是功率譜密度)與配適時間序列模型的輸入。誠實的但書:自相關只捕捉「線性」相依 —— 一個過程可以在每一個落後都有零自相關,卻仍以非線性方式強烈相依。
對獨立雜訊,對每個不為 0 的落後 h 都有 gamma(h) = 0,且 gamma(0) = Var(X_t):完全沒有記憶,所以對 h 不為 0 有 rho(h) = 0、rho(0) = 1。對一個把雜訊平滑化的過程,比方說 X_t = Z_t + 0.5 Z_{t-1},相鄰的值共享 Z_{t-1} 這一項,所以 gamma(1) 為正(落後 1 處有一個尖峰),而對 h 為 2 以上有 gamma(h) = 0。
自共變異數衡量跨時間的自我記憶;其標準化的表親自相關落在 [-1, 1] 中,且 rho(0) = 1。
零自相關「不」代表獨立 —— 它只排除「線性」相依。一個過程(例如由雜訊平方建構的)可以在所有落後都不相關,卻有強烈的非線性結構,這正是為什麼金融中的波動度叢聚會藏在平坦的自相關背後。