高維機率與集中

通用鏈接與優控測度(generic chaining and majorizing measures)

通用鏈接是界定隨機過程上確界的技術——在一整個連續、彼此相關的隨機變數族上的最大波動。這是經驗過程理論的核心困難:單一隨機變數易於集中,但在無限指標集上的上確界可能大得多,而大多少由指標集的幾何(透過過程自身的度量所見)所支配。通用鏈接與 Talagrand 的優控測度定理,在經典 Dudley 熵積分只給上界之處,給出「尖銳」的答案。

設 (X_t)(t 屬於集合 T)為具次高斯增量的過程:對 T 上的度量 d,||X_s - X_t||_psi2 <= d(s, t)。我們要界定 E[sup_t X_t]。鏈接的想法是用一連串逐次加細的網來逼近每個 t,t_0、t_1、t_2、…,其中第 n 個網至多有 2^(2^n) 點,並把 X_t - X_{t_0} 寫成相鄰逼近之間增量的伸縮和 sum_n (X_{t_n} - X_{t_{n-1}})。每個增量為次高斯、尺度為 d(t_n, t_{n-1}),而每層的點數夠少,使得對第 n 層增量取聯集界在指數中只花費 sqrt(2^n)。把各貢獻求和得到 Talagrand 的 gamma_2 泛函:E[sup_t X_t] <= C gamma_2(T, d),其中 gamma_2(T, d) = inf(在容許的網序列上)sup_t sum_n 2^(n/2) d(t, A_n)——以巢狀網覆蓋 T 的最省方式,每層以 sqrt(2^n) 加權。經典的 Dudley 積分,即覆蓋數 N 上 sqrt(log N(T, d, eps)) deps 的積分,是 gamma_2 的便利上界,但並不總是緊的。Talagrand 的優控測度定理是深刻的逆命題:對「高斯」過程,gamma_2(T, d) 等價於(在絕對常數意義下)E[sup_t X_t],因此鏈接不僅充分,更恰好捕捉真相——高斯過程的上確界雙邊地是 (T, d) 的純幾何量。

此理論是現代高維機率的脊柱:它控制經驗過程的上確界(從而是均勻大數法則與 Rademacher 複雜度)、隨機矩陣的算子範數,以及連續指標集上高斯與次高斯場的行為。誠實的提醒是真實的。優控測度等價(gamma_2 = E[sup])是針對高斯過程的定理;對一般次高斯過程,鏈接只給上界 E[sup] <= C gamma_2,下界可能失效。Dudley 積分嚴格弱於 gamma_2(在不規則指標集上它可能高估一個對數因子,經典例子是橢球)。而整套機器以過程「內在」的度量 d(psi_2 增量度量)度量距離,而非環境度量;用錯度量會給出錯誤、通常是鬆的界。

估計 E[sup(在單位向量 v 上)<g, v>],其中 g ~ N(0, I_n)——高斯向量範數的期望。指標集是配上歐氏度量的單位球面。Dudley 積分與 gamma_2 都給出 E[sup] ~ sqrt(n),與確切值 E[||g||] ~ sqrt(n) 相符。對於更不規則的指標集,如半軸為 a_i 的橢球,gamma_2 給出尖銳的 sqrt(sum a_i^2),而樸素的 Dudley 界可能差一個對數因子。

gamma_2 對高斯上確界是緊的;Dudley 積分只是上界。

優控測度等價 gamma_2(T,d) ~ E[sup_t X_t] 是針對「高斯」過程的定理;對一般次高斯過程只有上界成立。距離須為過程內在的 psi_2 度量,且 Dudley 熵積分嚴格弱於 gamma_2。

又称
Talagrand's generic chainingmajorizing measure theoremgamma_2 functionalDudley's entropy integral通用鏈接